O que é canários?
Canários são registros falsos, com um segredo conhecido, colocados de propósito nos dados usados para treinar uma IA. Eles servem para descobrir se o modelo decorou e pode revelar informações sensíveis.
Na prática, quem desenvolve um modelo de linguagem insere esses registros artificiais no conjunto de treino e, depois, consulta o modelo tentando extrair o segredo escondido. Se o modelo reproduz o segredo com facilidade, isso indica que ele memorizou trechos específicos dos dados, em vez de aprender apenas padrões gerais.
Uma analogia simples é pensar em um professor que esconde uma palavra-chave num texto de estudo. Se, na prova, o aluno repete exatamente aquela palavra sem que ela tenha sido explicada em aula, fica claro que ele decorou o material em vez de entendê-lo.
Esse tipo de teste importa porque modelos que decoram dados podem vazar informações pessoais ou confidenciais em respostas futuras. Medir isso ajuda a ajustar o treinamento e a limitar dados sensíveis, o que é uma boa prática para quem usa ou desenvolve IA com responsabilidade.