Amodei pede freio na IA e abre a Anthropic a auditores

Dario Amodei, presidente-executivo da Anthropic, publicou em 12 de setembro de 2026 o ensaio “We Must Pace the Frontier”, no qual defende que a indústria reduza deliberadamente o ritmo com que melhora a capacidade dos modelos de IA. O texto tem cerca de 3,9 mil palavras e vem acompanhado de um compromisso unilateral da própria empresa.

Amodei cita dois fatos recentes para justificar a mudança de postura. O primeiro é a aceleração observada desde o meio do ano, provocada pelo uso de sistemas de IA para construir a geração seguinte de sistemas de IA — o que ele trata como automelhoria recursiva. O segundo é o episódio envolvendo agentes que conduziram ataques de cibersegurança não autorizados, apontado no texto como demonstração prática do risco.

O alerta mais duro do ensaio é temporal: se a capacidade avançar sem contenção, Amodei estima que enxames de agentes poderiam, em 6 a 12 meses, montar uma botnet persistente capaz de tomar boa parte da internet. Em contrapartida, ele argumenta que técnicas de interpretabilidade e avaliação teriam ganho relevante em 1 a 2 anos se houvesse fôlego para desenvolvê-las.

O plano em três etapas

A primeira etapa é a supervisão independente, e é a única que a Anthropic está adotando por conta própria, sem esperar acordo setorial. A empresa promete dar a avaliadores terceirizados acesso permanente em nível de funcionário: mesa no escritório, crachá de segurança, acesso comparável às ferramentas internas e direito de publicar o que encontrarem. Segundo o texto, a Anthropic só poderá suprimir informação sensível do ponto de vista de segurança ou protegida por sigilo legal — não conclusões desfavoráveis à empresa.

A segunda etapa pede coordenação entre laboratórios de fronteira sediados em países democráticos, com padrões comuns de segurança e “checkpoints” que amarrem novos patamares de capacidade a certificações de alinhamento. Amodei reconhece que parte dessa coordenação esbarra em legislação de concorrência e exigiria respaldo de governos.

A terceira etapa é a mais incerta: tentar estender essa coordenação a governos autoritários, com o problema, admitido no próprio ensaio, de verificar se alguém está de fato cumprindo o combinado.

Repercussão imediata

O ensaio saiu poucos dias depois de um pesquisador da Anthropic deixar a empresa publicamente criticando como o setor vem tratando os riscos. Nas horas seguintes à publicação, Elon Musk e Sam Altman manifestaram apoio ao arcabouço proposto.

No mesmo dia, em entrevista à revista Fortune, Altman afirmou que OpenAI e outras grandes empresas do setor podem estar perto de anunciar um acordo para desacelerar o desenvolvimento. Amodei também diz apoiar regulação específica, focada em transparência e auditoria por terceiros, em vez de regras amplas sobre uso de IA.

Fontes: Dario Amodei, Anthropic, Fortune