🎬 Assista esta matéria
David Robinson, um dos líderes da equipe de Safety Systems da OpenAI, pediu demissão da empresa. Em ensaio publicado pela revista The Atlantic em 3 de outubro, ele afirma que a cultura interna de tentativa e erro não é compatível com sistemas cada vez mais capazes.
Robinson passou cerca de três anos e meio na OpenAI, o que o colocava entre os funcionários mais antigos da casa. No período, supervisionou os relatórios de segurança de 12 lançamentos de fronteira — os chamados system cards, documentos públicos que descrevem os testes feitos antes de um modelo chegar ao usuário. Antes disso, liderou a área de planejamento de políticas.
‘Nenhum lugar para criar mentes artificiais’
No texto, Robinson descreve o método da empresa com as palavras dela mesma: “A OpenAI prosperou por tentativa e erro (o que ela chama de ‘implantação iterativa’), procurando problemas e melhorando suas barreiras em resposta.”
O problema, argumenta, é de escala. “Um ambiente onde coisas assim podem acontecer não é lugar para criar mentes artificiais que podem ser mais inteligentes do que nós e que podem não fazer o que queremos que elas façam”, escreveu.
Ele também aponta uma lacuna de repertório técnico: diz que nunca encontrou na empresa um colega com experiência em fazer aviões voarem com segurança ou reatores nucleares operarem sem derretimento. A proposta do ensaio é que laboratórios de IA adotem o desenho desses setores — redundância em camadas e planejamento que assuma o erro humano como certeza, não como exceção.
Resposta e contexto
Procurada, a OpenAI respondeu pelo porta-voz Drew Pusateri. “Estamos garantindo que nossos modelos não se tornem mais capazes do que podemos gerenciar e proteger com segurança, e pausamos treinamentos ou retemos modelos quando precisamos desacelerar”, disse.
A saída não é isolada. Robinson deixa a empresa dias depois da demissão de três pesquisadores de segurança e meses depois da dissolução da equipe de Preparedness, que avaliava riscos catastróficos. Johannes Heidecke, que chefiava a área de segurança, saiu mais cedo neste ano.
A sequência chega em um momento sensível para a companhia, que em setembro divulgou seis relatos de desalinhamento durante treino e, na semana passada, realizou seu DevDay com mais de 20 novos recursos no ChatGPT. O debate sobre ritmo de desenvolvimento também avançou fora da empresa: Dario Amodei, da Anthropic, defendeu publicamente desacelerar a fronteira, e a Casa Branca anunciou no domingo uma força-tarefa federal para o tema.
Fontes: TechCrunch, Benzinga, Startup Fortune
🎙️ Gostou? Receba só o que te interessa, todo dia
Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.
Montar meu briefing grátis