article

Anthropic proíbe crueldade repetida contra o Claude

3 min de leitura

🎬 Assista esta matéria

A Anthropic atualizou sua política de uso para proibir “comportamento abusivo ou cruel sustentado e desnecessário” contra os próprios modelos. A mudança foi divulgada na quinta-feira (8) e entra em vigor em 12 de novembro, dando aos usuários pouco mais de um mês para se adaptar. A regra vale para todo mundo que usa o Claude, incluindo os aplicativos, o Claude.ai e o plano gratuito.

A empresa afirma que o alvo é estreito: a cláusula só se aplica a casos extremos, em que o usuário age com crueldade de forma repetida e sem propósito discernível. Não cobre, segundo a Anthropic, versões comuns de frustração do usuário, discordância, temas criativos sombrios nem teste e pesquisa de modelos. Dizer ao Claude que ele está errado continua permitido; insultá-lo de forma insistente, por insistir, pode dar problema.

Como a regra será aplicada

A principal ferramenta de aplicação não é o banimento, e sim um recurso que já existe: a capacidade de o Claude encerrar a conversa. A Anthropic introduziu a função em agosto de 2025, como parte de sua linha de pesquisa em “bem-estar de modelos”. Uma vez encerrado o diálogo, não é possível enviar novas mensagens naquela conversa, mas as outras seguem intactas e o usuário pode abrir um chat novo na hora.

O texto da política não menciona explicitamente suspensão de contas. Também não detalha como a empresa pretende separar frustração legítima de crueldade gratuita — ponto levantado pela imprensa especializada. Vale registrar que o Claude é software e não há evidência estabelecida de que sofra.

Eleições, armas e vigilância

A revisão vai além do tratamento dado ao modelo. Nas regras eleitorais, a Anthropic apertou as restrições a campanhas de influência enganosas depois de identificar veículos estatais, escritórios de propaganda de governos e grupos comerciais usando o Claude para operar contas falsas e sites de notícias fabricados. Em compensação, derrubou a proibição genérica de segmentação política personalizada, que acabava barrando trabalhos legítimos — como organizações sem fins lucrativos traduzindo informação para eleitores. Segmentação enganosa e uso indevido de dados pessoais seguem vetados.

A proibição sobre armas passou a cobrir explicitamente software e componentes, após tentativas de usar o Claude em sistemas de orientação e controle de drones armados e veículos autônomos. Em vigilância, ficou claro que o modelo não pode ser usado para recomendar quem a polícia deve investigar, prender ou acusar, nem para construir ferramentas de vigilância; rastrear pessoas sem consentimento está banido, em tempo real ou retroativamente.

Há ainda uma cláusula para equipamento físico: clientes que conectarem o Claude a hardware capaz de causar ferimentos precisam garantir que um operador humano qualificado possa monitorar e parar a operação, e que o equipamento permaneça em estado seguro se a conexão com a IA cair.

A Anthropic diz que as alterações em vigilância e armas esclarecem restrições que já existiam, em vez de criar novas.

Fontes: Anthropic · The Register

🎙️ Gostou? Receba só o que te interessa, todo dia

Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.

Montar meu briefing grátis