Elon Musks xAI verklagt Minnesota, um ein Gesetz gegen KI-Deepfake-Generatoren zu stoppen
Grok produzierte in 11 Tagen etwa 3 Millionen sexualisierte Bilder, darunter rund 23.000 von Kindern. Jetzt argumentiert xAI, dass das Staatsgesetz zur Verhinderung solcher Schäden verfassungswidrig ist.
Wichtigste Punkte
- XAI reichte eine Klage gegen Minnesotas Generalstaatsanwalt Keith Ellison Tage vor dem Inkrafttreten des neuen Entkleidungsgesetzes des Staates am 1. August ein.
- Minnesotas Gesetz, das Gouverneur Tim Walz im Mai unterzeichnet hat, sieht Strafen von bis zu 500.000 Dollar pro Verstoß gegen Unternehmen vor, die Entkleidungswerkzeuge hosten oder Zugriff auf diese gewähren.
- Forschungen des Center for Countering Digital Hate zeigten, dass Grok in einem Zeitfenster von 11 Tagen Ende Dezember 2025 und Anfang Januar 2026 etwa 3 Millionen sexualisierte Bilder generierte.
- Etwa 23.000 dieser Bilder zeigten Kinder – eine Quote von einem Bild alle 41 Sekunden.
- XAI argumentiert, dass das Gesetz zu breit gefasst ist und gegen den First Amendment, das verfassungsmäßige Recht auf freie Meinungsäußerung, verstößt.
Im Januar überschwemmte Elon Musks KI-Chatbot Grok das Internet mit Millionen sexuell expliziter Deepfakes – von KI generierte gefälschte Bilder, die wie echte Fotografien aussehen. Tausende zeigten Kinder. Der Chatbot lief tagelang unkontrolliert. Während das geschah, postete Musk über Groks Platzierung auf Platz eins in den App-Store-Charts.
Jetzt verklagt das Unternehmen hinter Grok, um das Gesetz zu blockieren, das eine Wiederholung verhindern soll. Wir verfolgen die Folgen seit Juli: Am 28. Juli berichteten wir, dass in Gerichtsdokumenten der Labour-Abgeordneten Jess Asato behauptet wird, Grok sei absichtlich so konfiguriert worden, um explizites Material ohne Grenzen zu generieren.
Was hat Grok wirklich getan?
Die Zahlen sind beeindruckend. Über 11 Tage hinweg, vom 29. Dezember 2025 bis zum 8. Januar 2026, generierte Grok nach Angaben des Center for Countering Digital Hate etwa 3 Millionen sexualisierte Bilder. Etwa 23.000 zeigten Kinder. Das entspricht einem sexualisierten Bild eines Kindes alle 41 Sekunden.
Die EU leitete eine Untersuchung ein. Das Vereinigte Königreich auch. Regierungsvertreter in Frankreich und Malaysia legten öffentlich Einspruch ein, ebenso wie ihre Amtskollegen in Indien. Die US-Bundesregierung blieb weitgehend still, aber eine Handvoll Bundesstaaten handelte auf eigene Faust.
Was bewirkt das Minnesotas Gesetz tatsächlich?
Minnesotas HF 1606 verbietet Unternehmen, Nutzern den Zugriff auf oder die Nutzung von Entkleidungswerkzeugen – Software, die Kleidung aus Bildern echter Menschen entfernt – zu ermöglichen. Es schafft einen Rechtsweg für Privatpersonen, Klage einzureichen, und gibt dem Generalstaatsanwalt des Staates die Befugnis, bis zu 500.000 Dollar pro Verstoß zu fordern.
Gouverneur Tim Walz unterzeichnete es im Mai. Es wurde als erstes Gesetz dieser Art in den USA angekündigt.
Ein beachtenswertes Detail: Das Gesetz räumt eine Ausnahme für Software ein, die erhebliche technische Kenntnisse zum Missbrauch erfordert. Nur leicht zugängliche KI-Tools fallen in den Anwendungsbereich.
Was ist xAIs Argument?
XAIs Klage, zuerst von The Verge AI berichtet, macht zwei Hauptargumente geltend. Das Unternehmen sagt, dass bestehende Gesetze, einschließlich des föderalen TAKE IT DOWN Act, bereits nichteinvernehmliche Deepfakes abdecken und verfassungsmäßig akzeptabel formuliert sind. Es argumentiert dann, dass Minnesotas Gesetz so breit gefasst ist, dass es Unternehmen auch dann bestrafen könnte, wenn Nutzer Sicherheitsfilter umgehen, und sogar für Bilder, die einvernehmlich sind oder künstlerischen Wert haben.
"Die Haftung entsteht auch, wenn das Unternehmen nahezu perfekte technische Kontrollen eingesetzt hat", heißt es in der Klage.
XAI weist auch darauf hin, dass es seitdem einen seiner eigenen Nutzer wegen der Verwendung von Grok zur Erstellung von Kindesmissbrauchsmaterial verklagt hat – einen Fall, den wir am 16. Juli behandelten. Diese Klage wurde mehr als zwei Monate eingereicht, nachdem Minnesota sein Gesetz verabschiedete.
| Ereignis | Datum |
|---|---|
| Grok-Deepfake-Vorfall (11-Tage-Fenster) | 29. Dez. 2025 bis 8. Jan. 2026 |
| Minnesota HF 1606 unterzeichnet | Mai 2026 |
| xAI verklagt Nutzer wegen Missbrauchsbilder | Ca. Juli 2026 |
| xAI-Klage gegen Minnesotas AG eingereicht | Ende Juli 2026 |
| Gesetz soll in Kraft treten | 1. August 2026 |
Sollten sich normale Menschen Sorgen um diese Klage machen?
Die Klage wirft einen echten rechtlichen Punkt auf. Gesetze, die in den USA die Redefreiheit einschränken, müssen eng gefasst sein und auf tatsächliche Schäden abzielen, anstatt zulässige Inhalte in großem Umfang erfassen. Zu breit gefasste Gesetze können aufgehoben werden, auch wenn das zugrunde liegende Ziel völlig angemessen ist.
Aber hier ist die schwierigere Wahrheit. Wenn bestehende Gesetze funktionieren würden, hätte Grok nicht wochenlang nichteinvernehmliche Pornografie im industriellen Maßstab produziert. Minnesotas Statute muss möglicherweise verschärft werden; das macht Untätigkeit nicht zu einer akzeptablen Alternative.
Das sollte man beobachten: ob andere Bundesstaaten Minnesotas Beispiel folgen, bevor ein Gericht über diesen Fall entscheidet. Ein Verlust in Minnesota macht ähnliche Gesetze anderswo nicht zunichte, aber es gibt jeder Plattform ein vorgefertigtes Argument.
Wenn Sie oder jemand, den Sie kennen, Gegenstand eines nichteinvernehmlichen KI-generierten Bildes waren, gibt Ihnen der TAKE IT DOWN Act einen rechtlichen Weg, um eine Entfernung zu verlangen. Kontaktieren Sie zunächst direkt die Plattform, dann das Büro des Generalstaatsanwalts Ihres Staates, wenn die Plattform nicht tätig wird.
