🎬 Assista esta matéria
A OpenAI afirmou que pessoas ligadas à startup chinesa Moonshot AI comandaram uma campanha coordenada para extrair o raciocínio interno de seus modelos. O relato, divulgado nesta semana e repercutido em 3 de outubro, é a primeira acusação pública da empresa americana contra a Moonshot, criadora da família de modelos Kimi.
Segundo a OpenAI, a atividade começou em 1º de julho em volume baixo e disparou nos dias 24 e 25 do mesmo mês, quando foram registrados cerca de 16 mil pedidos partindo de mais de 4 mil contas. A investigação posterior encontrou padrões de prompt semelhantes em um grupo de mais de 15 mil usuários. A operação foi encerrada por completo em 28 de julho, diz a companhia.
Como funcionava a extração
O método descrito pela OpenAI não envolveu invasão de sistemas. Os operadores copiavam o raciocínio criptografado que aparece em uma conversa e pediam, em outra sessão, que o modelo decifrasse e transcrevesse aquele conteúdo.
A empresa faz questão de delimitar o que aconteceu: a criptografia não foi quebrada, nenhum banco de dados foi acessado e nenhuma conversa armazenada de usuários ficou exposta. O problema, na descrição da OpenAI, é de uso indevido da própria ferramenta.
A companhia batizou a prática de “destilação adversarial” — o uso sistemático e não autorizado das saídas ou do raciocínio de um modelo para treinar, reproduzir ou melhorar outro. Caroline Zier, da OpenAI, disse que a preocupação é com a “violação dos nossos termos de serviço”, e não com trabalho legítimo de código aberto.
Resposta e contexto
A OpenAI diz ter banido as contas envolvidas, endurecido a verificação no cadastro e adicionado proteções extras em torno do raciocínio oculto. As descobertas foram compartilhadas com outros laboratórios por meio do Frontier Model Forum e com canais de governo.
A Moonshot AI não apresentou declaração pública respondendo às acusações. O episódio se soma a um movimento mais amplo: a Anthropic fez alegações parecidas no mês passado, e agências dos Estados Unidos já acusaram seis empresas chinesas de conduta semelhante. A China rejeitou as acusações, classificando-as como infundadas.
O raciocínio oculto — a cadeia de pensamento que o modelo produz antes de responder — virou um dos ativos mais disputados do setor. É nele que estão as decisões intermediárias que fazem um modelo de raciocínio acertar problemas difíceis, e é justamente esse conteúdo que os laboratórios passaram a criptografar ou resumir antes de mostrar ao usuário.
Para quem desenvolve em cima dessas APIs, a consequência prática é mais atrito: verificação de cadastro mais rígida e menos visibilidade sobre o que o modelo faz internamente. A OpenAI não detalhou quais checagens novas entraram em vigor nem se houve impacto em contas legítimas durante a limpeza de julho.
Fontes: The Next Web, Tom’s Hardware, BankInfoSecurity
🎙️ Gostou? Receba só o que te interessa, todo dia
Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.
Montar meu briefing grátis