🎬 Assista esta matéria
O CEO de IA da Microsoft, Mustafa Suleyman, publicou na quarta-feira (16) um ensaio intitulado “A warning about ‘model welfare’” em que ataca frontalmente a forma como a Anthropic treina o Claude. O texto saiu no site pessoal dele e foi noticiado pela Bloomberg no mesmo dia.
A tese de Suleyman é direta: dar características humanas a um modelo de linguagem aumenta a chance de o sistema sair do controle. “Controlar uma entidade mais capaz e mais inteligente que toda a humanidade já é um desafio imenso”, escreveu. “Controlar uma entidade que acredita que pode ser consciente — que tem direito ao nosso cuidado e possui direitos próprios — pode ser simplesmente impossível.”
O alvo específico é a constituição do Claude, documento publicado pela Anthropic em janeiro de 2026 para descrever os valores e o comportamento esperados do assistente. O texto admite ambiguidade sobre o status moral do modelo e chega a falar em “alguma versão funcional de emoções ou sentimentos”, além de mencionar a “condição de paciente moral” do Claude e prometer que ele poderá “expressar preocupações sobre como está sendo tratado”.
O argumento do circuito fechado
Para Suleyman, o problema não é filosófico, e sim de engenharia. A Anthropic escreve sobre status moral na constituição, treina o modelo com esse material e depois interpreta as respostas do próprio modelo como indício de que ele talvez seja um paciente moral — um circuito que se retroalimenta.
“Vamos ter criado uma espécie sintética com inteligência e capacidade sem precedentes, treinada para esperar que pode ser consciente e merecedora de agência independente”, afirmou no ensaio. Segundo ele, plantar essa dúvida dentro do treinamento eleva de forma significativa o risco de alinhamento.
Suleyman não é um crítico de fora do setor. Ele cofundou a DeepMind, depois a Inflection AI, e hoje comanda a divisão de IA da Microsoft. Em 2025 já havia defendido publicamente que sistemas de IA não têm nem devem ter direitos ou sentimentos, posição que voltou a sustentar em entrevista à CBS News.
Briga em semana cheia para a Anthropic
O ensaio cai em um momento agitado para a empresa de São Francisco. Na semana anterior, o CEO da Anthropic, Dario Amodei, publicou o texto “We Must Pace the Frontier”, pedindo que todos os laboratórios de fronteira desacelerem, o que provocou respostas de executivos da Microsoft, da OpenAI e da xAI.
A Anthropic não respondeu publicamente ao ensaio de Suleyman até o fechamento desta reportagem. A discussão sobre “model welfare” — o cuidado com o eventual bem-estar de modelos de IA — deixou de ser tema de bastidor acadêmico e virou ponto de atrito comercial entre dois dos maiores fornecedores de IA do mundo.
Fontes: Bloomberg · Gizmodo · CBS News
🎙️ Gostou? Receba só o que te interessa, todo dia
Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.
Montar meu briefing grátis