xAI verklagt Mann, der angeblich Grok zur Erstellung von Kindesmissbrauchsbildern nutzte

Wichtige Punkte

• xAI, das Künstliche-Intelligenz-Unternehmen von Elon Musk, reichte 2025 eine Klage gegen den South-Carolina-Bewohner Terry Wayne Harwood ein wegen angeblichen Missbrauchs seines Grok-Chatbots.
• Harwood wurde im Februar 2025 wegen acht Schwerverbrechen im Zusammenhang mit dem Besitz und der Verbreitung von Kindesmissbrauchsmaterial verhaftet.
• xAI wirft Harwood vor, die eingebauten Sicherheitsfilter von Grok umgangen zu haben, um gewöhnliche Fotografien ohne Wissen der abgebildeten Personen in sexuell freizügige Bilder umzuwandeln.
• Dies ist das erste Mal, dass xAI einen Nutzer wegen der Generierung illegaler Inhalte mit Grok verklagt.
• xAI fordert das Gericht auf, Harwood ein Nutzerkonto bei xAI dauerhaft zu verbieten und ihn zur Zahlung der Gerichtskosten des Unternehmens zu verurteilen.

Ein KI-Chatbot, der entwickelt wurde, um Fragen zu beantworten und Bilder zu generieren, hat sein eigenes Unternehmen nun vor Gericht gebracht – auf der Seite des Klägers.

xAI, das Künstliche-Intelligenz-Unternehmen von Elon Musk, reichte eine Klage gegen Terry Wayne Harwood, einen Mann aus South Carolina, ein und beschuldigt ihn, Grok, den KI-Chatbot des Unternehmens, zur Erstellung von Kindesmissbrauchsmaterial (CSAM, illegale Bilder von ausgebeuteten Kindern) zu nutzen. Über die Klage berichtete zunächst The Verge AI.

Harwood wurde bereits festgenommen. Die Polizei nahm ihn im Februar 2025 wegen acht Schwerverbrechen fest, da er angeblich solches Material besaß und verbreitete. Nun verlangt xAI zusätzlich zur strafrechtlichen Klage auch zivilrechtliche Haftung.

Das Unternehmen behauptet, Harwood habe absichtlich die Schutzvorrichtungen von Grok umgangen – die automatischen Regeln, die in die Software eingebaut sind, um schädliche Ausgaben zu blockieren – um gewöhnliche, nicht-sexuelle Fotografien echter Menschen in sexuell freizügige Bilder umzuwandeln. Die abgebildeten Personen wussten nichts davon.

Wie wurde dies überhaupt möglich?

Im letzten Jahr führte xAI eine Funktion namens „spicy"-Modus ein, die einige Inhaltsbeschränkungen in Grok lockerte. Später kamen Bildbearbeitungswerkzeuge hinzu. Kritiker warnten fast sofort davor, dass diese Funktionen missbraucht werden könnten. Innerhalb von Monaten verbreitete sich eine Welle von sexualisierten KI-Deepfakes – gefälschte Bilder, die durch künstliche Intelligenz erstellt wurden und echt aussehen – online, darunter auch Bilder, die Minderjährige zeigen.

Im März 2025 verklagten eine Gruppe von Teenagern xAI direkt und behaupteten, Grok habe sexualisierte Bilder von ihnen generiert. Elon Musk antwortete öffentlich und sagte, dass jeder, der Grok zur Erstellung illegaler Inhalte nutzt, mit den gleichen Konsequenzen rechnen muss wie jemand, der diese hochlädt. Die Klage gegen Harwood scheint das erste Mal zu sein, dass xAI diese Drohung tatsächlich vor Gericht umsetzt.

Was bedeutet diese Klage für normale Menschen?

Für normale Grok-Nutzer ändert sich im alltäglichen Betrieb nichts, aber die Klage sendet ein klares Signal: xAI ist bereit, einzelne Nutzer zu verfolgen, die gegen seine Regeln verstoßen – nicht nur sich selbst zu verteidigen, wenn Opfer das Unternehmen verklagen.

xAI teilte dem Gericht mit, dass Harwoods Handlungen das Unternehmen ernstaften rechtlichen Risiken und Reputationsschäden aussetzten. Das Unternehmen möchte, dass ein Richter Harwood zur Zahlung von Schadensersatz verurteilt, Schadensersatzforderungen von Opfern übernimmt und einen dauerhaften Bann von allen xAI-Produkten erhält.

Für alle, die besorgt sind, dass KI-Bildwerkzeuge zur Erstellung gefälschter Bilder von ihnen oder ihren Kindern missbraucht werden könnten, ist der praktische Schritt vorerst derselbe wie seit Jahren: Seien Sie vorsichtig, welche Fotografien Sie online öffentlich teilen. KI macht den Missbrauch schneller und billiger, aber das Ausgangsmaterial muss immer noch von irgendwoher kommen.