O que é IA local?

Na prática, o modelo de IA é baixado para o disco do computador e roda usando o processador, a placa de vídeo ou a memória do aparelho. Programas que fazem isso permitem conversar com a IA, resumir textos ou gerar imagens sem internet, depois que o modelo já está instalado. A velocidade e a qualidade dependem bastante da potência da máquina, já que modelos maiores exigem mais memória.

Uma analogia simples é pensar em cozinhar em casa em vez de pedir comida por delivery: você usa a sua própria cozinha, controla os ingredientes e não depende do restaurante para preparar o prato, mas precisa ter o fogão e os utensílios certos.

Isso importa porque informações sensíveis, como documentos da empresa ou dados pessoais, não precisam sair do equipamento, o que reduz a exposição a vazamentos. Mesmo assim, vale baixar modelos somente de fontes confiáveis e manter o sistema e os programas atualizados, já que um arquivo de modelo de origem duvidosa pode conter malware.