O que é XAI?
XAI é a sigla em inglês de Explainable AI, que em português significa inteligência artificial explicável. É um conjunto de técnicas que buscam mostrar como e por que um sistema de IA chegou a determinado resultado.
Na prática, muitos modelos de IA, sobretudo os de aprendizado profundo, funcionam como caixas-pretas: recebem uma entrada e devolvem uma resposta sem deixar claro o raciocínio. As técnicas de XAI tentam abrir essa caixa, destacando, por exemplo, quais dados mais pesaram em uma decisão ou quais partes de uma imagem levaram a um diagnóstico.
Uma analogia simples é pensar em um professor que corrige uma prova e apenas escreve "nota 4" no topo. Já um professor que aponta cada erro e explica o motivo da perda de pontos deixa o aluno entender o resultado e confiar, ou desconfiar, com mais critério.
Entender o motivo de uma decisão importa especialmente quando ela afeta pessoas, como crédito, saúde ou contratação. Ajuda a identificar vieses, erros e falhas de segurança antes que causem prejuízo. Para quem usa esses sistemas, vale desconfiar de respostas sem justificativa e checar as informações importantes com fontes independentes.