article

Mais de 400 apps escondiam gerador de deepfake

3 min de leitura

🎬 Assista esta matéria

Uma investigação da revista WIRED publicada na segunda-feira (2) identificou uma rede de mais de 400 aplicativos e domínios que se apresentavam como ferramentas comuns de inteligência artificial, mas carregavam uma função escondida para gerar deepfakes sexuais e violentos. A Apple removeu 19 apps da App Store depois de receber os dados da reportagem.

Os aplicativos circulavam tanto na App Store quanto no Google Play e, segundo a apuração, partem de uma mesma organização sediada na China. Alguns estavam disponíveis havia cerca de um ano.

Um app de pet que virava outra coisa

A fachada era banal: cursos de idioma, treinadores de academia por IA, editores de foto. O caso mais citado é o Viefur, anunciado como um app para “vestir” fotos de animais de estimação.

O mecanismo de ativação é o ponto central. Ao ser aberto, o aplicativo consultava um servidor; dependendo da resposta, liberava a interface oculta. Baixar o app após clicar em um anúncio ligado a deepfake no Facebook ou no Instagram aparece como um dos gatilhos. Ativada a função, o app abria uma interface web com dezenas de modelos prontos de foto e vídeo pornográficos, e o usuário comprava créditos para gerar o conteúdo a partir das imagens que enviava.

Entre os cenários oferecidos estavam situações explícitas de violência sexual e uma cena descrita como “faca ameaçadora”, com um homem encostando uma lâmina no pescoço de uma mulher. O material pode ser usado para humilhar ou ameaçar pessoas reais a partir de uma única foto.

A WIRED afirma que a rede operava “escondida à vista de todos”, sustentada por milhares de anúncios em vídeo publicados no Facebook e no Instagram.

A resposta das plataformas

A Apple disse que os aplicativos cumpriam suas regras no momento da análise e que os desenvolvedores mudaram depois o conteúdo que os apps buscavam em sites externos, substituindo-o por material pornográfico divulgado por anúncios em plataforma de terceiros. Segundo o porta-voz Adam Dema, “revisamos todo aplicativo antes de ser publicado, e esses apps cumpriam nossas regras quando os revisamos”. A empresa afirma ter reforçado recentemente as proteções contra esse tipo de manobra.

O Google havia retirado a maior parte dos aplicativos antes de ser procurado pela reportagem. A Meta informou ter agido contra mais de 10 mil contas de anúncio ligadas aos domínios associados aos apps — relatos de outros veículos mencionam 11.600 contas, além de páginas e perfis bloqueados.

Mesmo com as remoções, anúncios semelhantes voltaram a aparecer enquanto a investigação era concluída, o que indica que a rede recicla contas e domínios mais rápido do que as plataformas conseguem derrubar.

O caso expõe um limite do modelo de revisão das lojas de aplicativos: a análise acontece uma vez, antes da publicação, enquanto o comportamento real do app pode ser alterado depois por configuração remota — sem nova submissão e sem atualização visível para o usuário.

Fontes: 9to5Mac · AppleInsider

🎙️ Gostou? Receba só o que te interessa, todo dia

Escolha seus temas e receba um briefing diário em áudio e texto, de graça, no WhatsApp ou e-mail.

Montar meu briefing grátis