O que é CAM?
CAM é uma técnica de explicabilidade que mostra, em forma de mapa de calor sobre uma imagem, quais regiões mais influenciaram uma rede neural ao reconhecer determinada classe, como um gato ou um cachorro.
Na prática, a rede neural que analisa imagens passa a informação por camadas que geram mapas de características. A CAM combina esses mapas com os pesos que a rede aprendeu para cada classe, e o resultado é uma imagem colorida em que as áreas mais quentes indicam onde a decisão se apoiou. Ela é usada para auditar modelos e descobrir se a IA olhou para o objeto certo ou para um detalhe irrelevante, como uma marca d'água.
Uma analogia simples é pensar em um professor que corrige uma prova e, ao devolvê-la, circula os trechos da resposta do aluno que mais pesaram na nota. Assim fica visível o raciocínio por trás do resultado, em vez de apenas o veredito.
Isso importa porque modelos de IA tomam decisões que afetam pessoas, como triagens médicas ou análises de crédito, e uma resposta certa por motivo errado pode falhar quando as condições mudam. Para usar com segurança, vale cruzar o mapa com a avaliação de especialistas e testar o modelo com dados variados, pois o mapa mostra onde a rede olhou, mas não prova sozinho que ela está certa.