article

OpenAI acusa Moonshot de copiar raciocínio do ChatGPT

3 min de leitura

🎬 Assista esta matéria

A OpenAI afirmou que pessoas ligadas à startup chinesa Moonshot AI comandaram uma campanha coordenada para extrair o raciocínio interno de seus modelos. O relato, divulgado nesta semana e repercutido em 3 de outubro, é a primeira acusação pública da empresa americana contra a Moonshot, criadora da família de modelos Kimi.

Segundo a OpenAI, a atividade começou em 1º de julho em volume baixo e disparou nos dias 24 e 25 do mesmo mês, quando foram registrados cerca de 16 mil pedidos partindo de mais de 4 mil contas. A investigação posterior encontrou padrões de prompt semelhantes em um grupo de mais de 15 mil usuários. A operação foi encerrada por completo em 28 de julho, diz a companhia.

Como funcionava a extração

O método descrito pela OpenAI não envolveu invasão de sistemas. Os operadores copiavam o raciocínio criptografado que aparece em uma conversa e pediam, em outra sessão, que o modelo decifrasse e transcrevesse aquele conteúdo.

A empresa faz questão de delimitar o que aconteceu: a criptografia não foi quebrada, nenhum banco de dados foi acessado e nenhuma conversa armazenada de usuários ficou exposta. O problema, na descrição da OpenAI, é de uso indevido da própria ferramenta.

A companhia batizou a prática de “destilação adversarial” — o uso sistemático e não autorizado das saídas ou do raciocínio de um modelo para treinar, reproduzir ou melhorar outro. Caroline Zier, da OpenAI, disse que a preocupação é com a “violação dos nossos termos de serviço”, e não com trabalho legítimo de código aberto.

Resposta e contexto

A OpenAI diz ter banido as contas envolvidas, endurecido a verificação no cadastro e adicionado proteções extras em torno do raciocínio oculto. As descobertas foram compartilhadas com outros laboratórios por meio do Frontier Model Forum e com canais de governo.

A Moonshot AI não apresentou declaração pública respondendo às acusações. O episódio se soma a um movimento mais amplo: a Anthropic fez alegações parecidas no mês passado, e agências dos Estados Unidos já acusaram seis empresas chinesas de conduta semelhante. A China rejeitou as acusações, classificando-as como infundadas.

O raciocínio oculto — a cadeia de pensamento que o modelo produz antes de responder — virou um dos ativos mais disputados do setor. É nele que estão as decisões intermediárias que fazem um modelo de raciocínio acertar problemas difíceis, e é justamente esse conteúdo que os laboratórios passaram a criptografar ou resumir antes de mostrar ao usuário.

Para quem desenvolve em cima dessas APIs, a consequência prática é mais atrito: verificação de cadastro mais rígida e menos visibilidade sobre o que o modelo faz internamente. A OpenAI não detalhou quais checagens novas entraram em vigor nem se houve impacto em contas legítimas durante a limpeza de julho.

Fontes: The Next Web, Tom’s Hardware, BankInfoSecurity

🎙️ Gostou? Receba só o que te interessa, todo dia

Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.

Montar meu briefing grátis