Pesquisadores analisaram como modelos de linguagem, que são as IAs que escrevem textos, guardam informações vistas durante o treinamento. Para testar isso, eles usam os chamados canários: registros sintéticos de treino que contêm segredos conhecidos, colocados de propósito para ver se o modelo os revela depois. É como esconder um bilhete com uma senha num livro e depois verificar se alguém consegue recitá-la.

O estudo fez experimentos controlados de ajuste fino com modelos de linguagem e também com modelos que combinam texto e imagem. Em alguns casos, o segredo era dado na própria entrada do treino. Nesses casos, o modelo podia repetir o segredo quando ele estava presente, mas não conseguia lembrá-lo quando ele era retirado, mesmo depois de muitas repetições. Já quando o treino exigia prever o segredo a partir do contexto ao redor, a lembrança posterior ficou confiável.

Isso significa que contar quantas vezes um dado apareceu não basta para entender a memorização. Os autores também viram que mudar em que momento o canário aparece, ou quais outros canários o acompanham, pode alterar bastante o resultado medido, mesmo sem aumentar o número de repetições daquele canário.

Na prática, as conclusões sobre memorização dependem de como os segredos são apresentados no treino e testados depois. Para quem faz auditorias de privacidade em IA, a recomendação da pesquisa é verificar se as conclusões se sustentam diante dessas escolhas antes de generalizá-las para outros registros de treinamento.