Principais pontos
- O Ministério da Justiça do Brasil estipulou o prazo de 5 dias para esclarecimentos sobre mais de 60 aplicativos de apostas ilegais camuflados.
- A Procuradoria-Geral de São Francisco intimou as empresas a removerem 13 aplicativos de inteligência artificial de nudificação não consensual.
- Estudos indicam que 70% de 155 aplicativos de troca de rostos analisados pela Wired continham funções para gerar nudez sintética.
Lojas virtuais da Apple e do Google enfrentam investigações distintas no Brasil e nos Estados Unidos devido à presença de aplicativos de 'nudes' gerados por inteligência artificial e plataformas disfarçadas de apostas esportivas. Enquanto a procuradoria de São Francisco age contra ferramentas de 'nudificação' por IA, o Ministério da Justiça do Brasil notificou as empresas para explicarem a circulação de jogos de azar ilegais mascarados em suas plataformas.
No cenário brasileiro, o Ministério da Justiça deu o prazo de cinco dias para que as duas gigantes da tecnologia prestem esclarecimentos sobre a detecção de aplicativos de apostas ilegais em suas lojas oficiais. Uma investigação recente identificou mais de 60 desses programas na App Store que ocultavam suas reais funções para burlar os sistemas de moderação.
Plataformas de apostas mascaradas no Brasil
Segundo as apurações, os aplicativos fraudulentos exibiam as opções de apostas esportivas apenas quando eram acessados por meio de um endereço de IP localizado no Brasil. Os desenvolvedores dessas ferramentas parecem ser originários do Vietnã ou de outros países estrangeiros, sem registro oficial de atuação no território nacional. Os softwares analisados possuem aproximadamente 15 megabytes (MB) e normalmente não apresentam histórico de atualizações nas plataformas.
Para facilitar a fraude, os criminosos utilizavam um repositório público no site GitHub, que fornece instruções passo a passo para criar aplicativos-fachada. Essas interfaces simples exibem ícones de animais e utilitários cotidianos para passar despercebidos. O governo brasileiro intensificou a pressão para impedir o acesso de menores de idade a esses serviços não autorizados. Até o momento, as empresas não informaram a previsão de remoção total dessas ferramentas no país.
Sanção a aplicativos de pornografia sintética nos EUA
Paralelamente, a Procuradoria-Geral de São Francisco enviou cartas de notificação exigindo que Apple e Google retirem de circulação 13 aplicativos de inteligência artificial de suas lojas. Segundo as investigações publicadas pela Wired, esses sistemas de 'nudificação' usam algoritmos de IA para remover digitalmente as roupas de pessoas em fotos reais, criando materiais sexualmente explícitos sem qualquer consentimento.
De acordo com o procurador-geral David Chiu, as empresas lucram de forma inadequada ao cobrarem comissões sobre transações internas realizadas dentro das plataformas. 'Gerar imagens não consensuais é ilegal, prejudicial e totalmente inaceitável', afirmou Chiu. Ele completou dizendo que essas imagens simuladas são frequentemente utilizadas para 'intimidar, humilhar e ameaçar mulheres e meninas'. Pesquisas apontam que 70% de 155 aplicativos de troca de rostos avaliados permitiam a criação de nudez sintética.
Respostas das empresas e próximos passos
A legislação do estado da Califórnia proíbe de forma explícita a criação e a comercialização de pornografia sintética não consensual. Em resposta, o porta-voz do Google, Dan Jackson, declarou que o Google Play proíbe terminantemente aplicativos com conteúdo sexual e destacou a remoção de cinco programas sinalizados pela procuradoria, além de já ter banido centenas de aplicativos semelhantes anteriormente. A Apple não respondeu aos pedidos de comentário sobre as remoções.
O debate sobre abusos por meio de conteúdo sintético também afetou outras empresas recentemente. Em janeiro, o chatbot Grok, de propriedade da xAI, foi alvo de investigações por gerar conteúdo sexual abusivo. Como desdobramento, a xAI abriu um processo judicial contra um usuário por gerar material pornográfico não consensual utilizando a sua ferramenta.
Leia também
- Adoção global de IA cresce: 17,8% da população usa
- Vercel sofre ataque ao OAuth; 2 meses de acesso não detectado
Perguntas frequentes
Por que a Apple e o Google estão sendo investigados no Brasil?
O Ministério da Justiça do Brasil investiga as empresas devido à presença de mais de 60 aplicativos de apostas ilegais mascarados em suas lojas oficiais. As plataformas receberam um prazo de cinco dias para prestar esclarecimentos sobre como esses sistemas fraudulentos burlaram os filtros de moderação das lojas virtuais.
O que são os aplicativos de IA investigados nos Estados Unidos?
Os aplicativos de IA investigados nos Estados Unidos são ferramentas de 'nudificação' que utilizam algoritmos para remover roupas de pessoas em fotos reais sem consentimento. A Procuradoria-Geral de São Francisco notificou a Apple e o Google exigindo a retirada imediata de 13 desses softwares de suas plataformas oficiais.
Qual foi a resposta do Google sobre os aplicativos de nudez sintética?
O Google removeu cinco dos aplicativos de nudez sintética sinalizados pela procuradoria norte-americana e baniu outras centenas de programas semelhantes de sua loja de aplicativos. A empresa reforçou que o Google Play proíbe terminantemente qualquer conteúdo de teor sexual explícito em suas diretrizes de publicação.