O que é PGD?
PGD é um método de ataque adversarial que faz pequenas alterações calculadas nos dados de entrada para induzir um modelo de IA a errar. A sigla vem de Projected Gradient Descent, em português descida de gradiente projetada.
Na prática, o método repete várias vezes um ciclo: verifica para qual lado uma pequena mudança faria o modelo errar mais e aplica essa mudança, sempre limitando o tamanho total do ajuste para que a alteração continue quase imperceptível. Pesquisadores usam o PGD como um teste de estresse para medir a robustez de sistemas de aprendizado de máquina antes de colocá-los em uso.
Uma analogia simples é pensar em um professor que corrige uma prova com pequenas rasuras, uma letra de cada vez, até descobrir o quanto a nota muda sem que o corretor perceba. O objetivo não é fraudar a prova, e sim descobrir quais pontos do sistema de correção são frágeis.
Isso importa porque modelos de IA que parecem precisos podem falhar diante de entradas levemente alteradas, o que pode afetar decisões importantes. Para se proteger, equipes de desenvolvimento costumam incluir exemplos adversariais no treinamento e testar seus modelos com ferramentas como o PGD antes da implantação, além de monitorar o comportamento do sistema depois que ele entra em operação.