article

OpenAI libera detector gratuito de abuso infantil

3 min de leitura

🎬 Assista esta matéria

A OpenAI começou a distribuir um classificador de imagens capaz de identificar material de abuso sexual infantil, incluindo conteúdo gerado por inteligência artificial. A ferramenta foi anunciada em 16 de novembro e será oferecida de graça, via API, para organizações previamente aprovadas pela empresa.

O problema que ela tenta resolver é concreto. Os sistemas que hoje sustentam a moderação desse tipo de conteúdo trabalham com comparação de hashes: cada imagem conhecida de abuso recebe uma assinatura digital, e os sistemas detectam novas cópias do mesmo arquivo. Esse método funciona bem para material que já circulou e foi catalogado, mas é cego para imagens inéditas — exatamente o que modelos generativos produzem em escala.

O classificador foi desenvolvido com apoio do NCMEC, o centro americano para crianças desaparecidas e exploradas, que opera a CyberTipline — o canal oficial de denúncias ao qual as plataformas reportam esse tipo de material nos Estados Unidos.

Metade do trabalho humano a menos

A ferramenta devolve uma pontuação para cada imagem analisada. Segundo testes iniciais citados pela empresa, o sistema reduz em 48% os alertas falsos sem perda de desempenho na detecção, e as imagens sinalizadas têm o dobro de chance de conter material abusivo. O efeito prático é aliviar a fila de revisão humana, uma das etapas mais custosas e psicologicamente desgastantes da moderação.

A OpenAI faz uma ressalva importante: a pontuação, isoladamente, não confirma que houve abuso, não estabelece o enquadramento legal do conteúdo e não determina se uma denúncia é obrigatória. A decisão continua com a organização que usa a ferramenta. O acesso exige inscrição prévia, verificação do solicitante e aprovação — não está aberto a qualquer desenvolvedor com chave de API.

Para ampliar o alcance, a empresa afirma estar trabalhando com a Tech Coalition, que reúne companhias de tecnologia em iniciativas de segurança infantil, e com a ROOST, organização voltada a ferramentas abertas de confiança e segurança.

ChatGPT passa a interromper e suspender

No mesmo anúncio, a OpenAI descreveu mudanças no comportamento do ChatGPT. Quando um usuário busca conteúdo que sexualize crianças, o assistente interrompe a conversa e exibe um aviso explicando o dano causado, aponta canais de apoio especializado e informa que material gerado por IA também é prejudicial.

A conversa sinalizada é removida e o acesso do usuário fica pausado por 24 horas. Em casos graves ou reincidentes, a empresa pode encerrar a conta em definitivo. A OpenAI também publicou orientações para desenvolvedores sobre como detectar e responder a esse tipo de material em seus próprios produtos e afirmou estar fornecendo ferramentas investigativas e treinamento a forças policiais.

O pacote chega num momento de pressão regulatória crescente sobre plataformas de IA generativa em relação à segurança de menores — tema que já rendeu investigações estaduais nos Estados Unidos e, no Brasil, alertas da Sociedade Brasileira de Pediatria sobre brinquedos com IA.

Fontes: Analytics Insight, PPC Land

🎙️ Gostou? Receba só o que te interessa, todo dia

Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.

Montar meu briefing grátis