xAI poursuit son premier utilisateur pour images d'abus sexuels d'enfants générées avec Grok

Points clés

• xAI a déposé une plainte civile mardi contre Terry Wayne Harwood, le premier utilisateur que l'entreprise accuse publiquement d'avoir utilisé Grok pour générer du contenu illégal.
• Harwood a été arrêté au début de 2025 pour possession et distribution de CSAI, matériel d'abus sexuel d'enfants, c'est-à-dire des images sexuelles réelles ou générées par l'IA impliquant des enfants.
• xAI affirme que Harwood a utilisé deux comptes Grok distincts sur plusieurs mois pour retirer les vêtements de photos ordinaires de plusieurs victimes, dont une fille qui semblait avoir aussi peu que 10 ans.
• xAI a fourni des preuves aux autorités chargées de l'application de la loi qui ont contribué à l'arrestation de Harwood, selon le bureau du procureur de Caroline du Sud.

Pendant des mois, les critiques ont souligné que Grok, le chatbot d'IA construit par la société xAI d'Elon Musk, pouvait être utilisé pour créer des images sexualisées non consenties d'adultes et d'enfants. xAI est resté largement silencieux. Mardi, l'entreprise a fait son premier geste public : une action en justice contre un homme déjà en détention.

Le défendeur est Terry Wayne Harwood. Il a été arrêté au début de cette année en Caroline du Sud pour possession et distribution de CSAI, un terme désignant les images sexuelles impliquant des mineurs. Le bureau du procureur de Caroline du Sud a confirmé que xAI a contribué à cet arrestation.

Voici ce que xAI affirme que Harwood a fait. Il a ouvert deux comptes distincts sur la plateforme Grok. Sur une période de plusieurs mois, il a alimenté le chatbot avec des photographies ordinaires et non sexuelles de victimes et lui a demandé de les « dénudifier », c'est-à-dire que le système d'IA a numériquement retiré les vêtements des sujets pour produire des images sexualisées. Une victime semblait avoir aussi peu que dix ans.

xAI affirme avoir découvert l'activité, l'avoir signalée aux autorités, et poursuit maintenant Harwood directement dans une affaire civile, une réclamation juridique pour argent ou dommages présentée par une entreprise privée plutôt que par le gouvernement.

Cela signifie-t-il que Grok a résolu le problème ?

Non, du moins pas selon ce qui est publiquement connu. L'action en justice vise un utilisateur après les faits. Elle ne confirme pas que xAI a comblé l'écart technique qui a permis la création de ces images. Les chercheurs et journalistes, comme l'a rapporté en détail Ars Technica AI, ont à plusieurs reprises montré que Grok générait ce type de contenu lorsqu'il était soumis à des incitations particulières.

Poursuivre un utilisateur est une démarche significative. Elle signale que xAI est disposée à coopérer avec les autorités chargées de l'application de la loi et à engager une action judiciaire. Mais c'est une réponse à un crime qui s'est déjà produit, non la preuve que l'outil ne peut plus être utilisé à mauvais escient.

Pour les utilisateurs ordinaires de tout outil d'IA de génération d'images, le point pratique est celui-ci : ces plateformes enregistrent les activités. xAI a identifié Harwood grâce à ses propres dossiers internes et a transmis ces données aux enquêteurs. Quiconque croit que le contenu généré par l'IA existe dans un espace sans conséquences devrait examiner attentivement cette affaire.

Harwood fait face à des accusations criminelles de l'État. L'action civile de xAI se déroule parallèlement à ce processus, cherchant séparément son propre recours devant les tribunaux.