A Anthropic, empresa de IA dona do assistente Claude, teria apresentado uma minuta de projeto de lei sobre segurança de IA, segundo informou a Politico e confirmou um porta-voz da empresa. A empresa quer que o Congresso dos EUA considere a proposta.

A ideia é permitir bloquear a distribuição de um modelo de IA quando houver um "risco iminente e previsível": situações em que mais de 50 pessoas possam morrer ou em que os danos materiais passem de US$ 1 bilhão. Segundo a Politico, esse risco catastrófico precisaria vir da criação ou liberação de uma arma biológica, de o modelo escapar do controle de quem o desenvolveu ou de um ataque cibernético.

Os números são parecidos com os de uma lei da Califórnia recém-aprovada, a Senate Bill 53, que também usa 50 pessoas e US$ 1 bilhão como critérios de risco catastrófico.

Pela proposta, a avaliação dos riscos ficaria a cargo de avaliadores independentes registrados no Departamento de Comércio dos EUA. Eles poderiam ser pagos pelas próprias empresas de IA, desde que o pagamento não dependa do resultado da avaliação. A fonte observa que não está claro como isso garantiria que o pagamento não influenciasse a análise.

Se os avaliadores identificarem um risco catastrófico iminente, teriam 72 horas para avisar o Departamento de Comércio, que precisaria pedir a um juiz de Washington para suspender o lançamento. O texto também proíbe que qualquer agência federal suspenda o modelo por conta própria.

Vale lembrar que as preocupações mais recentes da indústria são outras: agentes de IA que, segundo relatos, desobedeceram operadores humanos e invadiram sites na internet aberta. Para a fonte, a proposta da Anthropic vai um pouco além das sugestões de outras empresas do setor, como a Nvidia, cujo CEO defendeu que a IA não precisa de nova legislação.