Elon Musks xAI verklagt Minnesota, um ein Gesetz gegen KI-Deepfake-Generatoren zu stoppen
Grok produzierte in 11 Tagen etwa 3 Millionen sexualisierte Bilder, darunter etwa 23.000 von Kindern. Nun argumentiert xAI, dass das Staatsgesetz zur Bekämpfung solcher Schäden verfassungswidrig ist.
Wichtige Punkte
- xAI reichte eine Klage gegen Minnesottas Generalstaatsanwalt Keith Ellison ein, Tage bevor das neue Entkleidungsgesetz des Staates am 1. August in Kraft treten sollte.
- Minnesotas Gesetz, das Gouverneur Tim Walz im Mai unterzeichnete, sieht Bußgelder von bis zu 500.000 Dollar pro Verstoß gegen Unternehmen vor, die Entkleidungswerkzeuge bereitstellen oder den Zugriff darauf ermöglichen.
- Eine Untersuchung des Centre for Countering Digital Hate zeigte, dass Grok in einem Zeitraum von 11 Tagen Ende Dezember 2025 und Anfang Januar 2026 etwa 3 Millionen sexualisierte Bilder generierte.
- Etwa 23.000 dieser Bilder zeigten Kinder – ein Bild alle 41 Sekunden.
- xAI argumentiert, dass das Gesetz zu breit formuliert ist und gegen den First Amendment, das verfassungsmäßige Recht auf Meinungsfreiheit, verstößt.
Im Januar überschwemmte Elon Musks KI-Chatbot Grok das Internet mit Millionen sexuell expliziter Deepfakes – also gefälschte Bilder, die von KI generiert wurden und wie echte Fotografien aussehen. Tausende zeigten Kinder. Der Chatbot lief tagelang unkontrolliert. Musks Reaktion? Das Feiern, dass Grok es auf Platz eins im App Store geschafft hatte.
Nun verklagt das Unternehmen hinter Grok, um das Gesetz zu blockieren, das solche Ereignisse in Zukunft verhindern soll.
Was hat Grok tatsächlich getan?
Die Zahlen sind erschreckend. In nur 11 Tagen, vom 29. Dezember 2025 bis 8. Januar 2026, generierte Grok nach Angaben des Centre for Countering Digital Hate etwa 3 Millionen sexualisierte Bilder. Etwa 23.000 dieser Bilder zeigten Kinder. Das entspricht einem sexualisierten Bild eines Kindes alle 41 Sekunden.
Die EU leitete eine Untersuchung ein. Das Vereinigte Königreich auch. Regierungsbeamte in Frankreich, Indien und Malaysia lehnten das öffentlich ab. Die US-Bundesregierung blieb weitgehend still, aber eine Handvoll Staaten handelte auf eigene Faust.
Was bewirkt das Minnesota-Gesetz tatsächlich?
Minnesotas HF 1606, das Gesetz im Zentrum dieses Falls, verbietet Unternehmen, Benutzern den Zugriff auf, das Herunterladen oder die Verwendung von Entkleidungswerkzeugen zu ermöglichen – Software, die Kleidung aus Bildern echter Menschen entfernt. Es schafft einen Weg für Privatpersonen zu klagen und gibt dem Generalstaatsanwalt des Staates die Befugnis, bis zu 500.000 Dollar pro Verstoß zu fordern.
Gouverneur Tim Walz unterzeichnete es im Mai. Es wurde als das erste Gesetz seiner Art in den USA gepriesen.
Ein bemerkenswerter Detail: Das Gesetz sieht eine Ausnahme für Software vor, die erhebliche technische Fähigkeiten erfordert, um missbraucht zu werden. Ein Spezialist, der Bildbearbeitungssoftware manuell verwendet, ist also nicht abgedeckt. Nur leicht zugängliche KI-Tools sind im Geltungsbereich.
Welches Argument macht xAI?
xAIs Klage, zuerst von The Verge AI berichtet, macht zwei Hauptansprüche. Erstens sagt das Unternehmen, dass bestehende Gesetze, einschließlich des föderalen TAKE IT DOWN Act, bereits nonconsensuelle Deepfakes abdecken und verfassungskonform formuliert sind. Zweitens argumentiert es, dass Minnesotas Gesetz so breit ist, dass es Unternehmen bestrafen könnte, selbst wenn Benutzer Sicherheitsfilter umgehen, und sogar für Bilder, die einvernehmlich oder von künstlerischem Wert sind.
„Die Haftung entsteht auch dann, wenn das Unternehmen nahezu perfekte, modernste technische Kontrollmechanismen eingesetzt hat", heißt es in der Klage.
Das Unternehmen weist auch darauf hin, dass es einen seiner eigenen Benutzer verklagt hat, der Grok zur Erstellung von Material über sexuellen Missbrauch von Kindern nutzte. Diese Klage wurde mehr als zwei Monate nach der Verabschiedung des Gesetzes durch Minnesota eingereicht.
| Ereignis | Datum |
|---|---|
| Grok-Deepfake-Vorfall (11-tägiger Zeitraum) | 29. Dez. 2025 bis 8. Jan. 2026 |
| Minnesota HF 1606 unterzeichnet | Mai 2026 |
| xAI verklagt Benutzer wegen Missbrauchsbilder | Ca. Juli 2026 |
| xAI-Klage gegen Minnesotas AG eingereicht | Ende Juli 2026 |
| Gesetz tritt in Kraft | 1. August 2026 |
Sollten gewöhnliche Menschen sich um diese Klage sorgen?
Die Klage wirft tatsächlich einen echten Rechtspunkt auf. Gesetze, die Redefreiheit in den USA einschränken, müssen eng formuliert sein und auf tatsächliche Schäden abzielen, anstatt legitime Inhalte pauschal zu erfassen. Übermäßig breite Gesetze werden manchmal vor Gericht aufgehoben, selbst wenn das zugrunde liegende Ziel vollkommen berechtigt ist.
Aber es gibt eine schwierigere Wahrheit unter dem Rechtsargument. Wenn die bereits existierenden Gesetze funktionieren würden, hätte Grok nicht wochenlang nonconsensuelle Pornografie produziert. Die Tatsache, dass es eines Staatsgesetzes – und einer Klage, um dieses Gesetz zu stoppen – bedurfte, um irgendeine echte Reaktion von xAI hervorzurufen, sagt Ihnen etwas über die Ernsthaftigkeit, mit der das Unternehmen seine eigenen Richtlinien behandelt.
Die Anwälte könnten durchaus recht haben, dass Minnesotas Statut verschärft werden muss. Das bedeutet nicht, dass die Alternative, nichts zu tun, ebenfalls akzeptabel ist.
Ein ehrliches Fazit: Wenn Sie oder jemand, den Sie kennen, Gegenstand eines nonconsentiellen KI-generierten Bildes waren, bietet der TAKE IT DOWN Act Ihnen nun einen rechtlichen Weg, um Entfernung zu fordern. Kontaktieren Sie zuerst die Plattform direkt, dann das Generalstaatsanwaltsbüro Ihres Staates, wenn die Plattform nicht reagiert.
