O que é FP8?
FP8 é um formato numérico de 8 bits usado para representar números em cálculos de inteligência artificial. Ele ocupa menos memória e processa mais rápido que formatos maiores, com alguma perda de precisão.
Na prática, FP8 é usado para guardar os pesos de um modelo de IA e fazer as contas durante o treinamento ou a execução dele. Cada número ocupa 8 bits, metade do espaço do FP16 e um quarto do FP32, o que permite rodar modelos grandes em menos placas de vídeo.
Uma analogia simples é pensar em anotar medidas de uma receita com uma colher de sopa em vez de uma balança de precisão. A receita sai quase igual, você gasta menos tempo e espaço, mas perde um pouco de exatidão nos detalhes.
Vale saber que FP8 existe para equilibrar desempenho e custo, e não para dar o resultado mais exato possível. Quem usa modelos em FP8 costuma testar a qualidade das respostas antes de adotar o formato em produção.