O que é memorização?
Memorização, no contexto de IA, é a tendência de um modelo de linguagem reproduzir trechos exatos de dados que viu durante o treinamento, em vez de apenas aprender padrões gerais. Ela pode ser útil, mas também levanta preocupações de privacidade.
Na prática, um modelo de linguagem aprende ajustando bilhões de números internos a partir de textos enormes. Em alguns casos, especialmente quando um trecho aparece muitas vezes nos dados ou é muito específico, o modelo passa a repetir esse trecho quase palavra por palavra quando recebe um começo parecido. Pesquisadores medem isso testando se o modelo completa frases de forma idêntica ao original.
Uma analogia simples é pensar em um estudante que decorou as respostas de uma prova antiga. Ele acerta as questões repetidas, mas pode não entender a matéria por trás delas. Se a prova seguinte mudar um pouco, ele erra, porque memorizou em vez de compreender.
Isso importa porque um modelo que decorou dados pessoais, senhas ou documentos sigilosos pode vazá-los para quem fizer as perguntas certas. Para reduzir o risco, desenvolvedores costumam limpar os dados antes do treino, remover informações sensíveis e testar o modelo antes de publicá-lo. Quem usa ferramentas de IA deve evitar colar dados confidenciais nelas.