# Apple e Google Banem Aplicativos de 'Nudes' Criados por IA de Suas Lojas Oficiais
Uma decisão judicial em San Francisco forçou a mão das duas maiores lojas de aplicativos do mundo. Apple e Google removeram aplicativos de "nudify" — ferramentas que usam inteligência artificial para criar nudes falsos — da App Store e da Google Play Store. A medida responde diretamente à pressão regulatória sobre deepfakes de nudez não consensual, mas levanta uma questão inevitável: banir apps resolve um problema que já se espalhou pela internet inteira?
O que levou Apple e Google a banir aplicativos de nudify
A Procuradoria-Geral de San Francisco, nos Estados Unidos, moveu uma ação judicial contra as plataformas. A acusação foi direta: Apple e Google estavam facilitando a distribuição de ferramentas que geram pornografia não consensual com inteligência artificial.
> "A decisão judicial exigiu o banimento dos aplicativos e forçou as Big Techs a agir imediatamente."
Segundo o Canaltech, a Apple confirmou ao site 9to5Mac que tirou do ar os aplicativos mencionados pela Procuradoria. A empresa também informou que trabalha para banir as contas dos desenvolvedores responsáveis por essas plataformas.
O Google seguiu caminho semelhante. Além de remover os apps citados na decisão judicial, a empresa restringiu buscas por termos como "nudify" dentro da Play Store — uma medida que vai além da simples remoção pontual.
Por que esses apps ainda chegavam às lojas oficiais?
As diretrizes tanto da Apple quanto do Google são claras: aplicativos que geram conteúdo sensual sem consentimento são proibidos. Mesmo assim, essas ferramentas conseguiam passar pelos mecanismos de revisão e ser distribuídas nas lojas oficiais.
O problema está na velocidade. A evolução da IA generativa permite criar e publicar novos aplicativos em uma frequência muito elevada. Isso exige sistemas de moderação cada vez mais sofisticados — capazes de detectar e barrar essas tentativas antes que cheguem aos usuários.
O jogo de gato e rato na moderação de apps
Quando um app é removido, outro surge com nome diferente e descrição camuflada. Os desenvolvedores mal-intencionados exploram brechas na revisão automatizada das lojas. É um ciclo que desafia até as maiores empresas de tecnologia do mundo. A Apple, por exemplo, analisa cerca de 100 mil submissões de apps por semana, segundo dados divulgados pela própria empresa — volume que torna a triagem manual de cada aplicativo praticamente inviável.
O ecossistema de deepfakes vai muito além das lojas de apps
Banir aplicativos da App Store e da Play Store é um passo importante. Mas está longe de resolver a questão. De acordo com análises especializadas, o ecossistema por trás dos deepfakes de nudez é muito maior do que o que aparece nas lojas oficiais.
> "Um estudo do Institute for Strategic Dialogue (ISD) identificou mais de 180 sites dedicados à prática de nudify na web aberta."
Ou seja, o problema tem raízes profundas na internet aberta, onde não existe curadoria de loja nem processo de aprovação.
Redes sociais como porta de entrada para ferramentas de nudify
O cenário fica ainda mais preocupante quando olhamos para as redes sociais. Segundo a investigação do ISD, plataformas de deepfakes são divulgadas abertamente em redes como YouTube e X (antigo Twitter). Essas redes funcionam como "portas de entrada" — direcionando usuários para sites e ferramentas externas. Isso significa que mesmo com os apps banidos das lojas oficiais, o acesso às ferramentas de nudify continua relativamente fácil para quem as procura.
O que são apps de "nudify" e por que representam risco real
Para quem não está familiarizado: aplicativos de nudify usam modelos de IA generativa para remover digitalmente roupas de fotos reais de pessoas. O resultado são imagens falsas — mas extremamente realistas — de nudez.
O dano às vítimas é concreto e documentado
As vítimas, em sua maioria, não deram consentimento algum. Muitas vezes, são mulheres e adolescentes que têm suas fotos manipuladas sem saber. Relatórios de organizações como o Cyber Civil Rights Initiative documentam que vítimas de pornografia não consensual apresentam índices significativamente mais altos de ansiedade, depressão e ideação suicida. A facilidade de uso dessas ferramentas — muitas exigem apenas o upload de uma foto — torna o problema ainda mais grave e acessível.
A tecnologia por trás dos aplicativos de nudify
Esses aplicativos tipicamente utilizam modelos de difusão — a mesma família de tecnologia por trás de geradores de imagem como Stable Diffusion. A diferença é que são ajustados especificamente para a tarefa de manipulação de nudez. Em termos técnicos, passam por um processo de *fine-tuning* com datasets voltados para esse tipo de conteúdo, o que permite resultados cada vez mais realistas com menos poder computacional.
O que Apple e Google dizem sobre as medidas adotadas
A Apple foi direta em sua resposta ao 9to5Mac: os apps foram removidos e as contas dos desenvolvedores estão sendo banidas. O Google, além da remoção, tomou uma medida adicional: restringiu os resultados de busca dentro da Play Store para termos associados a nudify.
Essa abordagem de filtrar buscas é relevante. Ela ataca não só os apps existentes, mas dificulta que usuários encontrem novas ferramentas similares dentro do ecossistema controlado do Google.
Ainda assim, nenhuma das duas empresas detalhou publicamente quais mudanças estruturais fará nos processos de revisão para evitar que novos apps do tipo passem pela moderação no futuro.
O contexto regulatório está mudando em ritmo acelerado
A decisão judicial de San Francisco não aconteceu no vácuo. Em diversos países, incluindo o Brasil — onde o Senado aprovou em 2024 o PL 370/2024, que criminaliza a criação e disseminação de deepfakes pornográficos —, legisladores estão discutindo formas de regular conteúdo gerado por IA. A pressão regulatória sobre Big Techs tem aumentado consistentemente nos últimos anos. E casos como este — onde ferramentas de abuso passam pela curadoria de lojas oficiais — reforçam o argumento de que autorregulação não é suficiente.
O papel e a responsabilidade das plataformas
Apple e Google controlam, juntas, mais de 95% do mercado global de distribuição de apps mobile, segundo dados da Statcounter. Isso lhes dá um poder enorme de controle sobre o que chega aos smartphones dos usuários — mas também uma responsabilidade proporcional. A expectativa de reguladores é que essas empresas invistam mais em moderação proativa, e não apenas reativa.
Como identificar imagens deepfake de nudez
Enquanto as plataformas se ajustam, o usuário também precisa se proteger. Existem sinais que ajudam a identificar se uma imagem foi gerada ou manipulada por IA:
- Bordas e contornos: áreas onde a pele encontra roupas ou fundo costumam apresentar artefatos visuais.
- Mãos e dedos: modelos de IA ainda cometem erros frequentes nessas regiões, gerando dedos extras ou proporções incorretas.
- Iluminação inconsistente: sombras que não correspondem à direção da luz principal da cena.
- Textura da pele: aparência "plastificada" ou excessivamente uniforme, sem poros ou marcas naturais.
- Fundo distorcido: objetos ao redor da pessoa podem apresentar deformações geométricas.
Nenhum desses sinais é infalível isoladamente, mas a combinação deles pode indicar manipulação. Ferramentas de detecção automatizada, como o detector de deepfakes da Microsoft (Video Authenticator), também podem auxiliar na verificação.
O veredito: passo necessário, mas claramente insuficiente
A remoção dos apps de nudify por Apple e Google é uma resposta necessária à pressão judicial e regulatória — mas claramente insuficiente diante da escala do problema. Com mais de 180 sites dedicados à prática operando na web aberta e redes sociais servindo de vitrine para essas ferramentas, a questão exige uma resposta coordenada entre plataformas, reguladores e a própria sociedade.
A tecnologia de IA generativa avança mais rápido do que os mecanismos de controle. E esse descompasso é o verdadeiro desafio. A pergunta que fica: quem vai ser responsabilizado quando o próximo app passar pela moderação?