Apps nudify seguem acessíveis a adolescentes nos EUA apesar de controles parentais da Apple e do Google

Uma pesquisa do grupo de defesa digital Tech Transparency Project (TTP), divulgada nesta segunda-feira (19), aponta que adolescentes norte-americanos conseguem baixar 135 aplicativos capazes de gerar imagens íntimas sem consentimento, os chamados apps nudify, mesmo com os controles parentais ativados nas lojas da Apple e do Google.

Os pesquisadores criaram quatro contas de teste, duas na Apple e duas no Google, todas indicando que o titular tinha 13 anos. Com elas, buscaram aplicativos de edição de imagem e troca de rostos usando termos como “gerador de vídeo com IA” e “IA adulta”. Os apps encontrados permitiam tirar a roupa de pessoas ou colocar rostos em corpos nus. Nos testes, as imagens de mulheres foram geradas por inteligência artificial, e não feitas a partir de fotos de mulheres reais.

O problema já chega às escolas. Em dezembro de 2025, a mãe Morgan Dorfman foi informada de que um aluno do colégio da filha, na Pensilvânia, criava material pornográfico com inteligência artificial usando a imagem da menina. Segundo o relato dela, o estudante usou o aplicativo Movely para produzir vídeos sexuais a partir de fotos da filha e de outras cinco meninas.

Dorfman afirma que não sabia que era possível criar esse tipo de conteúdo de uma pessoa comum com tanta facilidade. “Eu sabia o que era um deepfake, mas achava que era algo com celebridades”, disse. “Não imaginava que fosse possível pegar qualquer foto de alguém e fazer isso.”

Governos de diversos países já buscam banir esses aplicativos das lojas, e a maioria dos estados norte-americanos criminaliza a posse de material de abuso sexual infantil gerado por IA. Apesar das regras, os apps continuam se multiplicando e seguem acessíveis a adolescentes, de acordo com o relatório.

Apple e Google proíbem esse tipo de aplicativo em suas lojas e costumam restringir o acesso de menores a conteúdo adulto. Para o TTP, no entanto, as empresas dependem em grande parte dos próprios desenvolvedores para definir a faixa etária de cada app. O relatório afirma que muitos aplicativos de nudez foram classificados de forma incorreta como adequados para menores, o que permitiu o acesso mesmo com controles parentais ativados. Um dos apps de troca de rostos aparecia como apropriado para maiores de 4 anos.

Entre as contas testadas, a que tinha controles parentais ativados encontrou e baixou 24 aplicativos desse tipo na Apple, todos classificados como adequados para 13 anos. Na loja do Google, a mesma situação permitiu o download de 51 apps. Segundo a pesquisa, em nenhum dos casos as plataformas exigiram ou sugeriram a autorização dos pais para a aquisição.

A verificação de idade também falhou em alguns casos. Ao tentar baixar um app com classificação adulta na App Store, a conta de 13 anos recebeu um alerta de “material restrito por idade” e só precisou confirmar que tinha 17 anos ou mais para seguir. Os pesquisadores também compraram uma assinatura de um dos aplicativos sem que a conta vinculada dos pais recebesse qualquer alerta.

Durante a investigação, a Apple removeu 25 desses aplicativos, e o Google retirou seis. Mesmo assim, os pesquisadores continuaram usando os apps que já estavam instalados. No caso de Dorfman, o Movely deixou de aparecer na loja, mas continuou funcionando no celular, e a cobrança da assinatura paga seguia ativa.

A Apple afirmou que reforçou suas diretrizes de moderação depois que o TTP entrou em contato e que agora exige que os desenvolvedores previnam e removam imagens íntimas não consensuais, inclusive as geradas por IA. Segundo a empresa, vários dos apps citados são ferramentas populares de edição de fotos e vídeos, sem recursos de nudez. “Proibimos apps de nudez na App Store e removemos desenvolvedores que acrescentam esses recursos depois da revisão”, disse o porta-voz Adam Dema. O Google afirmou que detecta e remove proativamente apps com conteúdo nocivo e que, no caso citado, suspendeu os aplicativos infratores e restringiu termos de busca relacionados, segundo o porta-voz Dan Jackson.

Na escola da filha, segundo a mãe, o caso foi minimizado. Em um e-mail enviado aos pais, a direção afirmou que o aluno usou o aplicativo para animar imagens de outros estudantes, mas que não havia evidências de conduta inadequada. Dias depois, a polícia de Radnor registrou acusação criminal contra o estudante por assédio.

Para Dorfman, a dificuldade está em como responsabilizar alguém depois que as imagens são criadas. “Eu só queria que alguém fizesse ele apagar todos esses vídeos”, disse. “O trauma de mãe é que não consigo dizer à minha filha que os vídeos sumiram ou quem teve acesso a eles. Não dá para revistar o celular de todo mundo, e ele apagou o aplicativo.” O caso reacende o debate sobre a responsabilidade das lojas de aplicativos na classificação etária e na retirada de apps que já estão nos celulares.