San Francisco ordonne à Apple et Google de retirer les applications IA « Nudify »

Points clés

• Le procureur de la ville de San Francisco, David Chiu, a envoyé des mises en demeure jeudi à Apple et Google exigeant la suppression de 13 applications spécifiques de leurs magasins.
• Les applications ciblées comprennent 8 sur l'App Store d'Apple et 5 sur le Play Store de Google, toutes commercialisées comme des outils d'« échange de visages ».
• Des chercheurs de l'Université Cornell et de l'Université Georgetown ont découvert en mai 2025 que 70 % des applications d'échange de visages testées pouvaient produire des deepfakes nus sans vérifications de sécurité.
• Les applications signalées par le Tech Transparency Project au début de 2025 avaient été téléchargées environ 480 millions de fois et généré environ 120 millions de dollars combinés.
• Google a confirmé qu'il avait supprimé les cinq applications Android mentionnées dans la lettre ; Apple n'avait pas commenté au moment de la publication.

Imaginez télécharger une photo de quelqu'un que vous connaissez et, en quelques secondes, obtenir une fausse image nue d'eux. C'est ce que font ces applications. Aucune compétence technique requise. Juste une photo et quelques coups de doigt.

Jeudi, le procureur de la ville de San Francisco, David Chiu, a envoyé des lettres de cessation d'activité, des demandes juridiques formelles d'arrêt de comportement spécifique, à Apple et Google. Il souhaite que les deux entreprises retirent immédiatement 13 applications de leurs magasins. Les applications se présentent comme des outils d'échange de visages mais, une fois ouvertes, permettent aux utilisateurs de créer des images intimes non consenties générées par IA, c'est-à-dire des images sexuelles fictives de vraies personnes créées sans leur connaissance ou leur accord.

Le bureau de Chiu affirme qu'Apple et Google ont probablement « gagné des millions de dollars en frais » grâce à ces applications, car les deux entreprises prélèvent une commission sur les achats intégrés. La loi californienne interdit de soutenir les services qui créent de la pornographie par deepfake, et les lettres déclarent que les entreprises « font complice » de ce préjudice.

« Ces images sont utilisées pour intimider, humilier et menacer les femmes et les filles », a déclaré Chiu à Wired AI, qui a d'abord rapporté l'histoire. « Il y a eu des victimes qui ont eu des pensées suicidaires. »

Le porte-parole de Google, Dan Jackson, a confirmé que l'entreprise avait supprimé les cinq applications Android mentionnées dans la lettre, plus « des centaines » d'autres similaires, et a restreint les termes de recherche tels que « nudify » dans son magasin. Apple n'a pas répondu avant la publication.

Pourquoi les magasins n'ont-ils pas encore détecté ces applications ?

Apple et Google ont tous deux écrit des politiques interdisant la pornographie et le harcèlement, mais les applications contournent régulièrement ces règles en se déguisant en outils d'édition inoffensifs. Un document de recherche de mai 2025 de l'Université Cornell et de l'Université Georgetown a testé 155 applications d'échange de visages et a découvert que 70 % d'entre elles pouvaient produire des deepfakes nus sans fonctionnalités de sécurité pour l'empêcher. Les chercheurs ont appelé ces applications à « double usage », ce qui signifie un logiciel qui semble inoffensif en surface mais peut causer des dommages graves en dessous.

Le Tech Transparency Project, un groupe de surveillance indépendant, a rapporté avoir trouvé environ 100 applications de ce type sur les deux magasins en janvier et avril 2025. La directrice Katie Paul l'a dit clairement : « Apple et Google font beaucoup de promesses sur la façon dont leurs magasins d'applications sont fiables et sûrs. Ce n'est simplement pas ce qui se passe dans la réalité. »

Les reportages précédents ont révélé des images sexuelles deepfake de mineurs créées dans au moins 90 écoles.

Chiu dit que son bureau poursuivra d'autres actions en justice si Apple et Google n'agissent pas. « S'ils ne font pas la bonne chose, nous devrons envisager toutes nos options juridiques », a-t-il déclaré.