Relatório diz que a Anthropic usa IA para acelerar o desenvolvimento de IA, e pesquisadores se preocupam
Um relatório da METR diz que os modelos da Anthropic evoluem cerca de duas vezes mais rápido que há um ano, e que a IA ajuda nesse avanço. A empresa censurou parte do documento.
Siga o Pepitech
Na quinta-feira, a organização de pesquisa em segurança de IAMETR publicou um relatório sobre a Anthropic, empresa criadora do Claude. A investigação durou 11 semanas dentro da empresa.
O relatório diz que os modelos da Anthropic estão evoluindo cerca de duas vezes mais rápido que há um ano. Segundo a METR, a maior parte dessa aceleração vem da própria IA ajudando os pesquisadores humanos.
A notícia chama atenção porque a IA estaria acelerando o próprio desenvolvimento. Isso aproxima o debate sobre sistemas que se aperfeiçoam sozinhos. Ao mesmo tempo, a Anthropic censurou grande parte das evidências do relatório antes de publicá-lo.
Para a maioria das pessoas, nada muda agora. O relatório trata do ritmo de pesquisa de laboratórios de IA, e não de um produto ou serviço que você usa.
Quem trabalha com IA ou acompanha regulação pode ser mais afetado. Os resultados podem influenciar debates sobre leis e supervisão desses laboratórios.
O que você pode fazer
Para a maioria das pessoas, não há nada a fazer agora. Vale acompanhar os próximos relatórios da Anthropic e as reações de reguladores.
METR é uma organização de pesquisa independente que avalia os riscos de sistemas de IA avançados, como modelos de linguagem muito potentes. Seu trabalho ajuda a entender o que essas IAs conseguem fazer e quais perigos podem trazer.
IA (inteligência artificial) é a área da computação que cria sistemas capazes de executar tarefas que normalmente exigem raciocínio humano, como reconhecer imagens, entender a fala ou escrever textos.
Claude é um assistente de inteligência artificial desenvolvido pela Anthropic, que conversa, escreve textos e ajuda a escrever código. Você digita uma pergunta ou pedido e ele responde em linguagem natural.
Anthropic é uma empresa de inteligência artificial que desenvolve o Claude, um assistente capaz de conversar, escrever e ajudar em tarefas. Ela se destaca por dar grande atenção à segurança e ao comportamento responsável dessas tecnologias.
Regulação é o conjunto de regras criadas por governos para definir como empresas e tecnologias podem funcionar, com o objetivo de proteger a sociedade. Ela estabelece limites, deveres e fiscalização.
Comentários