O que é alucinações?
Alucinações são respostas erradas ou inventadas que sistemas de inteligência artificial, como os chatbots de texto, apresentam com ar de certeza. A IA pode citar um livro, uma lei ou um fato que simplesmente não existe.
Na prática, um modelo de linguagem não consulta uma base de fatos checada a cada pergunta. Ele gera o texto prevendo, palavra por palavra, o que tem mais chance de fazer sentido com o que foi pedido. Por isso, às vezes ele produz frases fluentes e convincentes que estão erradas.
Uma analogia simples é pensar em alguém que decora a forma das frases de um jornal, mas não lembra direito dos fatos. Ao ser perguntado sobre um assunto que não domina, essa pessoa completa a resposta com algo plausível e fala com a mesma segurança de quem sabe.
Isso importa porque respostas erradas podem parecer confiáveis. Para se proteger, vale conferir datas, nomes, números e citações em fontes primárias e confiáveis antes de usar a informação em trabalhos, decisões de saúde ou finanças.