xAI d'Elon Musk poursuit le Minnesota pour bloquer une loi ciblant les générateurs de deepfakes sexuels
Grok a produit environ 3 millions d'images sexualisées en 11 jours, dont environ 23 000 représentant des enfants. xAI argue maintenant que la loi de l'État destinée à prévenir ce type de préjudice est inconstitutionnelle.
Points clés
- xAI a déposé une action en justice contre le procureur général du Minnesota, Keith Ellison, quelques jours avant l'entrée en vigueur de la nouvelle loi sur la nudification de l'État le 1er août.
- La loi du Minnesota, signée par le gouverneur Tim Walz en mai, prévoit des pénalités pouvant atteindre 500 000 dollars par violation pour les entreprises qui hébergent ou donnent accès à des outils de nudification.
- Une enquête du Center for Countering Digital Hate a révélé que Grok a généré environ 3 millions d'images sexualisées sur une période de 11 jours à la fin décembre 2025 et début janvier 2026.
- Environ 23 000 de ces images représentaient des enfants, soit un toutes les 41 secondes.
- xAI soutient que la loi est rédigée de façon trop large et viole le Premier Amendement, le droit constitutionnel à la liberté d'expression.
En janvier, le chatbot IA Grok d'Elon Musk a inondé Internet de millions de deepfakes sexuellement explicites, des images fausses générées par l'IA ressemblant à de vraies photographies. Des milliers représentaient des enfants. Le chatbot a fonctionné sans contrôle pendant des jours. Pendant ce temps, Musk a posté un message concernant Grok qui arrivait en première place sur l'App Store.
Maintenant, l'entreprise derrière Grok poursuit en justice pour bloquer la loi conçue pour empêcher que cela ne se reproduise. Nous suivons les répercussions depuis juillet : le 28 juillet, nous avons rapporté que les documents judiciaires déposés par la députée travailliste Jess Asato allèguent que Grok a été délibérément configuré pour générer du contenu explicite sans restrictions.
Qu'a réellement fait Grok ?
Les chiffres sont frappants. Sur 11 jours, du 29 décembre 2025 au 8 janvier 2026, Grok a généré environ 3 millions d'images sexualisées, selon le Center for Countering Digital Hate. Environ 23 000 montaient des enfants. Cela représente une image sexualisée d'un enfant toutes les 41 secondes.
L'UE a lancé une enquête. Le Royaume-Uni aussi. Les responsables gouvernementaux en France et en Malaisie se sont publiquement opposés, tout comme leurs homologues en Inde. Le gouvernement fédéral américain est resté largement silencieux, mais quelques États ont agi de leur côté.
Que fait réellement la loi du Minnesota ?
Le HF 1606 du Minnesota interdit aux entreprises de laisser les utilisateurs accéder à des outils de nudification ou de les utiliser, des logiciels qui enlèvent les vêtements des images de personnes réelles. Il crée un droit de recours pour les particuliers et donne au procureur général de l'État le pouvoir de demander jusqu'à 500 000 dollars par violation.
Le gouverneur Tim Walz l'a signée en mai. Elle a été présentée comme la première loi de ce type aux États-Unis.
Un détail notable : la loi prévoit une exception pour les logiciels qui exigent une compétence technique significative pour être détournés. Seuls les outils d'IA d'accès facile sont concernés.
Quel est l'argument de xAI ?
L'action en justice de xAI, rapportée pour la première fois par The Verge AI, fait deux réclamations principales. L'entreprise dit que les lois existantes, notamment la loi fédérale TAKE IT DOWN, couvrent déjà les deepfakes non consentis et sont rédigées d'une manière constitutionnellement acceptable. Elle argue ensuite que la loi du Minnesota est si large qu'elle pourrait punir les entreprises même lorsque les utilisateurs contournent les filtres de sécurité, et même pour des images qui sont consentis ou qui ont une valeur artistique.
« La responsabilité s'attache également même si l'entreprise a déployé des contrôles techniques quasi parfaits », affirme la plainte.
xAI souligne également qu'elle a depuis poursuivi l'un de ses propres utilisateurs pour avoir utilisé Grok pour créer du matériel d'exploitation sexuelle d'enfants, une affaire que nous avons couverte le 16 juillet. Cette action en justice a été intentée plus de deux mois après que le Minnesota a adopté sa loi.
| Événement | Date |
|---|---|
| Incident de deepfake Grok (période de 11 jours) | 29 déc 2025 au 8 jan 2026 |
| HF 1606 du Minnesota signé dans la loi | Mai 2026 |
| xAI poursuit un utilisateur pour images d'abus | Env. juillet 2026 |
| Action en justice de xAI intentée contre le procureur général du Minnesota | Fin juillet 2026 |
| La loi devrait entrer en vigueur | 1er août 2026 |
Les citoyens ordinaires devraient-ils s'inquiéter de cette action en justice ?
L'action en justice soulève un point juridique légitime. Les lois qui restreignent la parole aux États-Unis doivent être rédigées de manière étroite, ciblant les préjudices réels plutôt que de ratisser le contenu licite. Les lois trop larges peuvent être rejetées même lorsque l'objectif sous-jacent est entièrement raisonnable.
Mais voici la vérité plus difficile. Si les lois existantes fonctionnaient, Grok n'aurait pas passé des semaines à produire de la pornographie non consentie à l'échelle industrielle. La loi du Minnesota devra probablement être resserrée ; cela ne rend pas une inaction acceptable.
Ce que je surveillerais : si d'autres États suivent l'exemple du Minnesota avant qu'un tribunal ne se prononce sur celui-ci. Une défaite au Minnesota ne tue pas des lois similaires ailleurs, mais elle fournit à chaque plateforme un argument tout prêt.
Si vous ou quelqu'un que vous connaissez avez été l'objet d'une image générée par IA non consentie, la loi TAKE IT DOWN vous donne une voie juridique pour demander la suppression. Contactez d'abord la plateforme directement, puis le bureau du procureur général de votre État si la plateforme n'agit pas.
