São Francisco Ordena à Apple e Google Remover Apps 'Nudify' de IA
Um procurador da cidade enviou cartas de cessação e desistência a ambos os gigantes tecnológicos sobre 13 aplicações que criam imagens falsas de nudez de pessoas reais sem o seu consentimento.
Pontos-chave
- O procurador da cidade de São Francisco, David Chiu, enviou avisos legais à Apple e Google na quinta-feira exigindo a remoção de 13 aplicações específicas das suas lojas.
- As aplicações alvo incluem 8 na App Store da Apple e 5 na Google Play Store, todas comercializadas genericamente como ferramentas de "troca de rostos".
- Investigadores das Universidades Cornell e Georgetown descobriram em maio de 2025 que 70 por cento das aplicações de troca de rostos que testaram podiam produzir deepfakes nus sem controlos de segurança.
- As aplicações sinalizadas pelo Tech Transparency Project no início de 2025 tinham sido descarregadas aproximadamente 480 milhões de vezes e geraram uma receita estimada de 120 milhões de dólares combinados.
- O Google confirmou que removeu as cinco aplicações Android nomeadas na carta; a Apple ainda não tinha feito comentários no momento da publicação.
Imagine fazer o carregamento de uma foto de alguém que conhece e, em segundos, receber de volta uma imagem falsa e nua dessa pessoa. É isto que estas aplicações fazem. Sem necessidade de conhecimentos técnicos. Apenas uma foto e alguns toques.
Na quinta-feira, o procurador da cidade de São Francisco, David Chiu, enviou cartas de cessação e desistência, exigências legais formais para interromper comportamentos específicos, à Apple e Google. Quer que ambas as empresas removam imediatamente 13 aplicações das suas lojas. As aplicações anunciam-se como ferramentas de troca de rostos, mas, uma vez abertas, permitem aos utilizadores criar imagens íntimas não consentidas geradas por IA, que são imagens sexuais falsas de pessoas reais criadas sem o seu conhecimento ou concordância.
O gabinete de Chiu afirma que a Apple e Google provavelmente "ganharam milhões de dólares em taxas" com estas aplicações, porque ambas as empresas recebem uma percentagem das compras no aplicativo. A lei da Califórnia proíbe o apoio a serviços que criam pornografia deepfake, e as cartas afirmam que as empresas estão a "aiding and abetting" esse dano.
"Estas imagens são utilizadas para intimidar, humilhar e ameaçar mulheres e raparigas," disse Chiu ao Wired AI, que foi o primeiro a reportar a história. "Há vítimas que foram suicidas."
Dan Jackson, porta-voz do Google, confirmou que a empresa eliminou as cinco aplicações Android nomeadas na carta, mais "centenas" de outras semelhantes, e restringiu termos de pesquisa como "nudify" dentro da sua loja. A Apple não respondeu antes da publicação.
Porque é que as lojas ainda não apanharam estas aplicações?
Tanto a Apple como o Google têm políticas escritas que proíbem pornografia e assédio, mas as aplicações passam constantemente disfarçadas como ferramentas de edição inocentes. Um artigo de investigação de maio de 2025 das Universidades Cornell e Georgetown testou 155 aplicações de troca de rostos e descobriu que 70 por cento delas podiam produzir deepfakes nus sem características de segurança para o impedir. Os investigadores chamaram a isto aplicações de "dupla utilização", significando software que parece inofensivo à superfície, mas pode causar dano grave no interior.
O Tech Transparency Project, um grupo de vigilância independente, reportou ter encontrado cerca de 100 dessas aplicações em ambas as lojas em janeiro e abril de 2025. A diretora Katie Paul colocou-o claramente: "A Apple e Google fazem muitas promessas sobre como confiável e segura é a sua loja de aplicações. Isto simplesmente não é o que está a acontecer na realidade."
Relatórios anteriores revelaram imagens sexuais deepfake de menores criadas em pelo menos 90 escolas.
Chiu afirma que o seu gabinete irá prosseguir com ação legal adicional se a Apple e Google não agirem. "Se não fizerem a coisa certa, teremos de considerar todas as nossas opções legais," disse.
