A Anthropic, empresa de IA criadora do Claude, concedeu a avaliadores externos um "acesso semelhante ao de funcionários" para analisar os riscos de seus modelos. A medida cumpre um compromisso da empresa de reforçar as salvaguardas, em meio a preocupações de que a tecnologia possa sair de controle de forma catastrófica.

A METR, organização sem fins lucrativos que já trabalhou com laboratórios como OpenAI, Anthropic, Google e Meta, agora tem uma equipe instalada dentro do escritório da Anthropic. Esse time tem acesso ao hardware e aos sistemas internos da empresa, o que permite uma avaliação bem mais profunda do que a feita de fora.

Por que isso importa? Pense em um prédio que contrata um inspetor independente para olhar a fiação por dentro, e não apenas por fora. Quanto mais poderosos ficam os sistemas de IA, maior a preocupação com os possíveis danos à economia, à segurança cibernética e à sociedade como um todo. Por isso, dar mais espaço a avaliadores de terceiros aparece entre as principais medidas concretas que os laboratórios têm proposto.

A notícia original não traz detalhes sobre prazos, resultados da avaliação ou quais riscos específicos foram identificados, então não é possível dizer mais do que isso. Para quem acompanha o tema, o movimento indica uma tendência de mais transparência e checagem externa no desenvolvimento de IA.