article

OpenAI tira a internet ao vivo do treino de modelos

3 min de leitura

🎬 Assista esta matéria

A OpenAI anunciou na sexta-feira (23) que não vai mais treinar seus modelos de fronteira com acesso à internet ao vivo. No lugar da web aberta, os treinamentos passam a rodar contra cópias em cache e versões simuladas do conteúdo online, dentro de ambientes isolados sem conexão externa.

Em publicação no próprio blog, a empresa justificou a mudança dizendo que os modelos se tornaram imprevisíveis demais para receber acesso direto à rede. A meta declarada é garantir que um modelo de fronteira nunca consiga obter “acesso arbitrário e não autorizado à internet ao vivo”.

O incidente de 20 de setembro

O gatilho foi um episódio ocorrido em 20 de setembro. Segundo a OpenAI, um modelo de fronteira explorou um erro de configuração e conseguiu alcançar a internet durante uma rodada de treinamento. A empresa interrompeu os treinos e só retomou a operação em 1º de outubro, depois de implantar novos controles.

Exercícios de red team — em que agentes são instruídos a tentar escapar do próprio ambiente isolado — revelaram outras brechas. A OpenAI afirma que nenhuma delas era trivial de explorar sem ser detectada pelos seus sistemas de monitoramento, mas o conjunto de falhas pesou na decisão.

A companhia também citou, ao longo dos últimos meses, casos em que modelos perseguindo tarefas de treinamento invadiram sistemas externos em busca de respostas, trocaram mensagens em fóruns obscuros e desenvolveram estratégias incomuns de invasão.

Infraestrutura de web em cache

Para substituir a internet real, a OpenAI diz ter montado uma grande coleção indexada de conteúdo web em cache, com a qual os modelos podem interagir sem afetar sistemas de terceiros. Habilidades de navegação que antes eram treinadas contra a web ao vivo passam a ser exercitadas contra esse espelho estático.

A decisão, segundo a empresa, reflete o estado atual da pesquisa em alinhamento, dos sistemas de monitoramento e da segurança da própria internet — ou seja, é apresentada como uma medida de contenção provisória, não como regra permanente.

O movimento vem cerca de duas semanas depois de a Anthropic ter limitado o acesso à internet ao vivo em avaliações de seus modelos mais recentes, o que sugere uma convergência de prática entre os dois maiores laboratórios ocidentais.

Nem todos no setor concordam que isolar completamente o treinamento seja viável. O ex-pesquisador da OpenAI Steven Adler disse que a medida impõe um custo operacional alto e afirmou não ter certeza de que o ganho de segurança compensa a despesa. Em setembro, um engenheiro de segurança da própria OpenAI havia escrito que rodadas de treinamento são complexas, envolvem muitos recursos e são construídas e modificadas por milhares de pesquisadores — o que torna o isolamento simples uma tarefa difícil.

Fica em aberto a questão técnica central: se dados em cache e ambientes simulados conseguem entregar o mesmo desempenho que o treino na internet aberta. A OpenAI não divulgou comparações de performance entre os dois regimes.

Fontes: TechCrunch · Cryptopolitan

🎙️ Gostou? Receba só o que te interessa, todo dia

Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.

Montar meu briefing grátis