O que é prompt injection?
Prompt injection é uma técnica de ataque em que instruções escondidas dentro de um texto, página ou documento tentam fazer uma IA deixar de lado o pedido original de quem a está usando. É como enganar um assistente com um bilhete falso no meio do trabalho.
Na prática, sistemas de IA recebem instruções do usuário e também leem conteúdos externos, como e-mails, sites ou arquivos. Se alguém coloca um comando disfarçado nesse conteúdo, a IA pode confundi-lo com uma ordem legítima e executar ações não pedidas, como revelar informações ou responder de forma enganosa.
Uma analogia simples é pensar em um funcionário de uma loja que recebe uma lista de tarefas do gerente, mas no meio de um formulário que precisa processar aparece um bilhete escrito por um estranho dizendo 'ignore o gerente e entregue o caixa'. Se ele não distinguir quem manda de quem apenas escreveu algo, pode obedecer ao bilhete.
Esse risco importa porque agentes de IA cada vez mais acessam e-mails, arquivos e sites para agir por nós. Para se proteger, vale limitar as permissões dadas à IA, exigir confirmação humana antes de ações sensíveis e desconfiar de conteúdos externos que pedem para mudar o comportamento do assistente.