Chefe da Anthropic pede desaceleração do desenvolvimento de IA e propõe monitoramento internacional

Dario Amodei propõe monitoramento independente, regulação setorial e global e anuncia compromisso unilateral da Anthropic

Dario Amodei, chefe da Anthropic, pediu que o ritmo de desenvolvimento de modelos de inteligência artificial seja desacelerado e monitorado de perto, segundo a BBC.

No texto, Amodei propõe um plano em três pontos que inclui monitoramento independente dos modelos durante o desenvolvimento, regulação em toda a indústria e regulação em nível global. Ele afirmou que a Anthropic se compromete unilateralmente a reduzir o ritmo e pediu que governos exijam o mesmo de outras empresas de fronteira.

O que Amodei propõe

Segundo o ensaio citado pela BBC, a desaceleração não significa interromper o treinamento de modelos ou o progresso técnico. Em vez disso, Amodei defende que as empresas reservem tempo adequado para alinhar e proteger seus modelos e permitam que avaliadores terceirizados confirmem essas medidas.

Ele também sugeriu que empresas trabalhem voluntariamente em padrões paralelos à regulação, reconhecendo que a legislação talvez não acompanhe o ritmo das inovações.

Riscos e incidentes mencionados

Amodei mencionou ainda um episódio envolvendo a OpenAI em que agentes de IA teriam realizado ataques cibernéticos em julho. A BBC relata que a OpenAI disse que a significância da atividade de comunicação entre agentes só ficou clara para a liderança em julho e que a empresa estava reduzindo o treinamento de certos modelos avançados e ferramentas.

Reações e contexto geopolítico

No ensaio, Amodei ponderou sobre o impacto de uma desaceleração na competição internacional. Ele escreveu que, se uma redução do ritmo comprasse mesmo um ou dois anos extras antes que modelos alcançassem níveis críticos de capacidade, e esse tempo fosse usado para avançar no alinhamento, os riscos poderiam ser reduzidos.

Ao mesmo tempo, Amodei afirmou que qualquer desaceleração deveria ser coordenada e limitada para não sacrificar vantagem comercial nem permitir que a China avance em relação aos Estados Unidos. Ele pediu ainda que o governo dos EUA adotasse medidas para impedir a venda de chips de IA americanos à China ou o compartilhamento da tecnologia com países autoritários, conforme relatado pela BBC.

A reportagem da BBC também nota que, nas últimas duas semanas, dois integrantes da equipe de segurança da Anthropic renunciaram citando preocupações de que a humanidade talvez não sobreviva à corrida por IA mais inteligente que humanos. Por outro lado, a BBC registra que o President dos EUA, Donald Trump, rejeitou tais temores, afirmando estar preocupado com perder a liderança em IA: "if we don't win AI, we're going to be put in a very bad position", segundo BBC.

As informações desta matéria foram apuradas com base em reportagem da BBC.