O pesquisador HD Moore quis saber se dados sensíveis vazam em serviços de IA. Ele enviou 2 milhões de armadilhas digitais, chamadas de canários, por uma rede de serviços de IA.

Essas armadilhas eram credenciais falsas, mas funcionais, como chaves de acesso da AWS e senhas de SSH. Cada uma foi enviada a um único provedor, por meio de roteadores de IA como OpenRouter e Vercel. Esses roteadores escolhem qual modelo atende cada pedido. Assim, se uma armadilha vazasse, ele saberia qual elo da cadeia era o responsável. Segundo a fonte, o resultado foi um ecossistema que vazou dados muito sensíveis. O trecho não detalha quantos vazamentos ocorreram.

Muitos apps de IA passam os pedidos por intermediários antes de chegar às grandes empresas de IA. Isso cria uma cadeia longa, e cada elo pode expor o que recebe. O problema, portanto, não é de uma empresa só.

Se você usa um app de IA, o que você digita pode passar por serviços intermediários que você nem conhece. Se você envia senhas, documentos ou dados de clientes, eles podem sair do controle do app.

Para quem desenvolve software, o risco é maior. Uma chave de acesso enviada por engano pode ser usada por terceiros que estejam na cadeia.

O que você pode fazer

Para a maioria das pessoas, a fonte não traz um passo específico. De forma geral, vale cuidar do que você envia para ferramentas de IA.

Evite colocar senhas, chaves de acesso e documentos pessoais em ferramentas de IA.

Revise as configurações de privacidade dos apps de IA que você usa.

  • Evite colocar senhas, chaves de acesso e documentos pessoais em ferramentas de IA.
  • Revise as configurações de privacidade dos apps de IA que você usa.