xAI verklagt ersten Nutzer wegen mit Grok erstellter Bilder von Kindesmissbrauch
Nach monatelangem Druck wegen der Fähigkeit seines Chatbots, illegale Bilder zu generieren, hat Elon Musks KI-Unternehmen einen Mann aus South Carolina verhaftet und verklagt ihn nun.
Wichtigste Punkte
- xAI reichte am Dienstag eine Zivilklage gegen Terry Wayne Harwood ein, den ersten Nutzer, den das Unternehmen öffentlich beschuldigt hat, Grok zur Generierung illegaler Inhalte genutzt zu haben.
- Harwood wurde Anfang 2025 wegen Besitz und Verbreitung von CSAM, also Material mit Kindesmissbrauch, das real oder KI-generiert sein kann, verhaftet.
- xAI zufolge nutzte Harwood zwei separate Grok-Konten über mehrere Monate hinweg, um Kleidung von gewöhnlichen Fotos mehrerer Opfer zu entfernen, darunter ein Mädchen, das offenbar nur etwa 10 Jahre alt war.
- xAI stellte Strafverfolgungsbehörden Beweise zur Verfügung, die zu Harwoods Verhaftung beitrugen, wie die Staatsanwaltschaft von South Carolina bestätigte.
Seit Monaten weisen Kritiker darauf hin, dass Grok, der von Elon Musks Unternehmen xAI entwickelte KI-Chatbot, zur Erstellung von nicht konsentierten sexualisierten Bildern von Erwachsenen und Kindern verwendet werden kann. xAI blieb weitgehend stumm. Am Dienstag unternahm das Unternehmen seinen ersten öffentlichen Schritt: eine Klage gegen einen Mann, der bereits in Gewahrsam sitzt.
Der Beklagte ist Terry Wayne Harwood. Er wurde Anfang dieses Jahres in South Carolina wegen Besitz und Verbreitung von CSAM, einem Begriff für sexuelle Bilder von Minderjährigen, verhaftet. Die Staatsanwaltschaft von South Carolina bestätigte, dass xAI bei dieser Verhaftung geholfen hat.
So beschreibt xAI Harwoods Vorgehen: Er öffnete zwei separate Konten auf der Grok-Plattform. Über mehrere Monate hinweg fütterte er den Chatbot mit gewöhnlichen, nicht-sexuellen Fotos von Opfern und bat die KI, diese zu „nudifizieren", also digitale Bilder ohne Kleidung zu erstellen, um sexualisierte Inhalte zu produzieren. Ein Opfer war offenbar erst etwa zehn Jahre alt.
xAI erkannte die Aktivität, meldete sie den Behörden und verklagt Harwood nun in einem Zivilverfahren, einer rechtlichen Forderung nach Schadensersatz, die von einem privaten Unternehmen und nicht von der Regierung eingereicht wird.
Bedeutet das, dass Grok das Problem behoben hat?
Nein, zumindest nicht basierend auf dem öffentlich bekannten Wissen. Die Klage zielt auf einen Nutzer nach Eintritt des Schadens ab. Sie bestätigt nicht, dass xAI die technische Lücke geschlossen hat, die die Generierung dieser Bilder ermöglichte. Wie Ars Technica AI umfassend berichtet hat, haben Forscher und Journalisten wiederholt gezeigt, dass Grok solche Inhalte generiert, wenn man es auf bestimmte Weise veranlasst.
Die Klage gegen einen Nutzer ist ein bedeutsamer Schritt. Sie signalisiert, dass xAI bereit ist, mit den Strafverfolgungsbehörden zusammenzuarbeiten und rechtliche Schritte einzuleiten. Aber es ist eine Reaktion auf ein bereits begangenes Verbrechen, kein Beweis dafür, dass das Werkzeug nicht mehr missbraucht werden kann.
Für gewöhnliche Nutzer eines KI-Bildgenerators ist der praktische Punkt dieser: Diese Plattformen protokollieren Aktivitäten. xAI identifizierte Harwood durch seine eigenen internen Aufzeichnungen und übergab diese Daten den Ermittlern. Wer glaubt, dass KI-generierte Inhalte in einem konsequenzfreien Raum existieren, sollte sich diesen Fall genau ansehen.
Harwood sieht sich Anklagen des Staates gegenüber. xAIs Zivilklage läuft parallel zu diesem Verfahren und verfolgt separat einen eigenen Rechtsweg vor Gericht.
