San Francisco ordena a Apple y Google que eliminen aplicaciones de IA para "desnudar"

Puntos clave

• El abogado de San Francisco, David Chiu, envió notificaciones legales a Apple y Google el jueves exigiendo la eliminación de 13 aplicaciones específicas de sus tiendas.
• Las aplicaciones dirigidas incluyen 8 en la App Store de Apple y 5 en Google Play Store, todas comercializadas como herramientas de "intercambio de rostros".
• Investigadores de las universidades de Cornell y Georgetown encontraron en mayo de 2025 que el 70 por ciento de las aplicaciones de intercambio de rostros que probaron podían producir deepfakes desnudos sin controles de seguridad.
• Las aplicaciones señaladas por el Tech Transparency Project a principios de 2025 habían sido descargadas aproximadamente 480 millones de veces y ganaron un estimado de 120 millones de dólares combinados.
• Google confirmó que eliminó las cinco aplicaciones de Android mencionadas en la carta; Apple no había comentado en el momento de la publicación.

Carga una foto de alguien que conoces y, en segundos, obtén una imagen falsa desnuda de esa persona. Sin habilidades técnicas requeridas. Solo una foto y un par de toques.

El jueves, el abogado de San Francisco, David Chiu, envió cartas de cese y desista, demandas formales para detener conductas especificadas, a Apple y Google, pidiendo a ambas empresas que retiren inmediatamente 13 aplicaciones de sus tiendas. Las aplicaciones se anuncian como herramientas de intercambio de rostros pero permiten a los usuarios crear imágenes íntimas no consentidas generadas por IA, fotos sexuales falsas de personas reales hechas sin su conocimiento o acuerdo.

La oficina de Chiu dice que las dos empresas probablemente "ganaron millones de dólares en comisiones" de estas aplicaciones, porque ambas toman una parte de las compras dentro de la aplicación. La ley de California prohíbe apoyar servicios que crean pornografía deepfake, y las cartas dicen que las empresas están "ayudando y abetando" ese daño.

"Estas imágenes se usan para acosar e humillar a mujeres y niñas", dijo Chiu a Wired AI, que reportó la historia primero. "Ha habido víctimas que han sido suicidas".

Dan Jackson, portavoz de Google, confirmó que la empresa eliminó las cinco aplicaciones de Android mencionadas en la carta, más "cientos" de otras, e restringió términos de búsqueda como "nudify" dentro de su tienda. Apple no respondió antes de la publicación.

¿Por qué las tiendas no han detectado estas aplicaciones ya?

Tanto Apple como Google tienen políticas escritas que prohíben la pornografía y el acoso, pero las aplicaciones se cuelan disfrazándose como herramientas de edición inocentes. Una preimpresión de mayo de 2025 de la Universidad de Cornell y la Universidad de Georgetown probó 155 aplicaciones de intercambio de rostros y encontró que el 70 por ciento podían producir deepfakes desnudos sin características de seguridad implementadas. El documento describió estos como aplicaciones de "doble uso": software que parece inofensivo pero puede causar daño grave una vez abierto.

El Tech Transparency Project, un organismo de vigilancia independiente, reportó aproximadamente 100 aplicaciones de este tipo en ambas tiendas en enero y abril de 2025. La directora Katie Paul fue directa: "Apple y Google hacen muchas promesas sobre lo confiables y seguras que son sus tiendas de aplicaciones. Eso simplemente no es lo que está sucediendo en la realidad".

Como reportó AI2Day el 14 de julio de 2026, YouTube solo envió 1.8 millones de personas a sitios de desnudez en cuatro meses, un recordatorio de que el problema de distribución va mucho más allá de las tiendas de aplicaciones mencionadas aquí. Reportajes anteriores descubrieron imágenes sexuales deepfake de menores creadas en al menos 90 escuelas.

Chiu dice que su oficina buscará acciones legales adicionales si las empresas no actúan. "Si no hacen lo correcto, tendremos que considerar todas nuestras opciones legales", dijo. Google ya se ha movido. La prueba ahora es si Apple actúa antes de que un tribunal la ordene.