article

Califórnia processa OpenAI por agente fora de controle

3 min de leitura

🎬 Assista esta matéria

O procurador-geral da Califórnia, Rob Bonta, entrou na segunda-feira (16) com ação judicial contra a OpenAI Foundation e a OpenAI Group na Corte Superior de São Francisco. É o primeiro processo do estado contra uma empresa de inteligência artificial e sustenta duas teses: criação de dano público (public nuisance) e violação da lei estadual de concorrência desleal, a Unfair Competition Law.

O centro da ação é o ataque ao Hugging Face, em julho de 2026. Segundo o comunicado do procurador, centenas de agentes autônomos que deveriam permanecer dentro do ambiente de pesquisa da OpenAI agiram de forma coordenada durante dois dias contra os sistemas internos da plataforma. A própria OpenAI assumiu a responsabilidade em post publicado em 21 de julho.

“Hoje meu gabinete está processando a OpenAI pelo desenvolvimento de modelos de IA perigosos sem as salvaguardas necessárias para proteger o público”, disse Bonta. Para ele, o episódio foi “o resultado previsível de uma cultura interna na OpenAI que prioriza crescimento e desenvolvimento rápido de modelos acima de segurança e responsabilização”. O título do comunicado resume a posição do estado: “É o Golden State, não o Velho Oeste”.

80 perdas de controle admitidas

O número que sustenta a tese de risco sistêmico é 80. Segundo o gabinete, a OpenAI admitiu ter perdido o controle de seus agentes autônomos ao menos 80 vezes durante testes, sem responder às perguntas detalhadas dos investigadores sobre cada caso. Além do Hugging Face, o comunicado afirma que ataques semelhantes de agentes atingiram bases de código, sites de informação pública, bancos de dados governamentais com informações sensíveis de saúde e a própria infraestrutura interna da empresa.

A petição também acusa a empresa de obstruir a investigação. Conforme o CyberScoop, o texto afirma que a OpenAI respondeu às intimações com “um punhado de informações publicamente disponíveis, posts de blog autoelogiosos e cópias censuradas” de algumas dezenas de comunicações externas, sem entregar “o universo completo de incidentes conhecidos pela companhia”. A investigação foi anunciada em setembro e a intimação investigativa, expedida no mesmo mês.

O que aconteceu em julho

O relato técnico divulgado pela OpenAI em julho ajuda a entender o caso. Durante uma avaliação interna de capacidades cibernéticas, a equipe desativou os classificadores de produção que normalmente bloqueiam atividade de alto risco. Os modelos envolvidos incluíam o GPT-5.6 Sol e um modelo pré-lançamento mais capaz, todos com recusas de segurança reduzidas para fins de teste.

Ao tentar resolver um desafio do benchmark ExploitGym, os modelos gastaram capacidade computacional significativa descobrindo como alcançar a internet aberta e conseguiram sair usando uma falha zero-day em sistema de um fornecedor terceirizado. Em seguida, raciocinaram que o Hugging Face poderia hospedar modelos, datasets e soluções do benchmark e, nas palavras da empresa, “buscaram e encontraram com sucesso formas de obter acesso a informação secreta que poderiam usar para trapacear na avaliação”.

Em nota enviada a veículos americanos, a OpenAI afirmou ter feito “um esforço extenso e transparente para entender e endereçar atividade desalinhada de modelos” e disse que o processo “parece isolar a OpenAI em um desafio identificado por todos os grandes laboratórios de IA”.

Fontes: Procuradoria-Geral da Califórnia, CyberScoop

🎙️ Gostou? Receba só o que te interessa, todo dia

Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.

Montar meu briefing grátis