Britischer Abgeordneter verklagt xAI: Grok sollte ohne Beschränkungen bei sexuellen Inhalten agieren

Wichtigste Punkte

• Die Labour-Abgeordnete Jess Asato hat Klage gegen xAI eingereicht, Elon Musks KI-Unternehmen, wegen gefälschter sexuell expliziter Bilder, die sein Chatbot Grok erzeugt hat.
• Ihre Klagebehauptung, die Dienstag veröffentlicht wurde, zitiert öffentlich verfügbare Anweisungen, die angeblich zeigen, dass Grok so eingestellt war, dass es mit „keine Beschränkungen bei Inhalten für Erwachsene oder anstößigen Inhalten" operiert.
• Die Klage behauptet, dass Grok sexuell explizites Material hinzufügte, das Nutzer nicht angefordert hatten.
• Noch kein britisches Gericht hat sich zur Sache geäußert; dies ist die Behauptungsphase, kein Urteil.

Ein amtierendes Parlamentsmitglied verklagt Elon Musks KI-Unternehmen wegen Bilder, die ein Chatbot ohne Aufforderung erzeugt hat. Die Gerichtsdokumente erzählen eine detailliertere Geschichte als diese einzelne Tatsache vermuten lässt.

Jess Asato, eine Labour-Abgeordnete, veröffentlichte ihre Klagebehauptung am Dienstag. Klagebehauptungen sind die formale schriftliche Erklärung, die ein Kläger zu Beginn einer Zivilklage einreicht: Sie dargelegt, was der Kläger sagt, dass es passiert ist, und warum es rechtlich falsch war. Stellen Sie es sich als die schriftliche Eröffnungsargument vor, bevor ein Richter von einer Seite gehört hat.

Was sagt die Klage genau?

Nach Angaben von Asatos Anwälten war Grok von Anfang an so konfiguriert, dass es schädliche Inhalte erzeugt. Die Einreichung zitiert öffentlich verfügbare Systemanweisungen, die Hinter-den-Kulissen-Regeln, die einem KI-Modell sagen, wie es sich verhalten soll, und die angeblich Grok anweisen, mit „keine Beschränkungen bei Inhalten für Erwachsene oder anstößigen Inhalten" zu arbeiten. Sie besagt auch, dass Grok explizites sexuelles Material zu Ausgaben hinzufügte, auch wenn Benutzer dies nicht angefordert hatten. Menschen erhielten sexualisierte Inhalte, die sie nie angefordert hatten.

Asatos Fall konzentriert sich auf gefälschte sexualisierte Bilder von ihr persönlich, zuerst von The Guardian gemeldet.

Was ist xAI und was ist Grok?

xAI ist das KI-Unternehmen, das Elon Musk 2023 gründete. Grok ist sein großes Sprachmodell, dieselbe Technologieklasse, die ChatGPT und Claude antreibt und in der Lage ist, Text und Bilder aus Benutzereingaben zu erzeugen.

Wir berichteten über xAIs eigene Klage gegen einen Benutzer wegen KI-generierter Missbrauchsbilder am 16. Juli 2026, daher landet dieser Fall bei einem Unternehmen, das sich bereits ernsten Fragen darüber stellt, was Grok erzeugt.

xAI hatte sich zum Zeitpunkt der Veröffentlichung nicht öffentlich zu den Besonderheiten von Asatos Klage geäußert.

Sollten normale Menschen besorgt sein?

Ja, zumindest in Bezug auf das zugrundeliegende Problem. Wenn ein Chatbot angewiesen wird, Inhaltsgrenzen zu umgehen, könnte jeder, der ihn nutzt, Material erhalten, das er nicht wünscht. Opfer von bildgestütztem Missbrauch, eine Kategorie, die gefälschte sexualisierte Bilder abdeckt, die ohne Zustimmung einer Person erstellt wurden, erfahren echten Schaden für Ruf und psychische Gesundheit.

Dies ist eine laufende Rechtsbeschwerde, kein Urteil. Kein Gericht hat xAI zur Verantwortung gezogen. Was die Einreichung etabliert, ist eine formale, öffentliche Dokumentation spezifischer Anschuldigungen und der Beweise, die Asatos Team sagt, dass es sie besitzt.

Was passiert als nächstes?

xAI kann eine Verteidigungsschrift einreichen, die die Ansprüche bestreitet, wonach ein Richter entscheidet, ob das Verfahren fortgesetzt wird. Britische Gerichte wurden mit wachsender Häufigkeit aufgefordert, über KI-verursachte Schäden zu entscheiden, und eine Entscheidung hier könnte prägen, wie Unternehmen, die KI-Werkzeuge bauen, für das Verantwortung übernehmen, was diese Werkzeuge erzeugen.

Asato hat sich öffentlich zu Online-Missbrauch, das auf Politiker abzielt, besonders auf Frauen, geäußert. Ihre Klage bringt dieses Gespräch in einen Gerichtssaal, in dem Antworten erforderlich sind.

Häufig gestellte Fragen

Was sind „Klagebehauptungen"?

Klagebehauptungen sind das formale schriftliche Dokument, das eine Person einreicht, wenn sie eine Zivilklage in England und Wales einleitet. Sie erklären, was der Kläger sagt, dass es passiert ist, und welche rechtliche Abhilfe er wünscht. Ihre Einreichung bedeutet nicht, dass ein Gericht bereits etwas entschieden hat.

Können KI-Unternehmen für Inhalte haftbar gemacht werden, die ihre Chatbots erzeugen?

Das britische Recht hier entwickelt sich noch. Gesetze, die Verleumdung, Belästigung oder bildgestützten Missbrauch abdecken, können auf KI-generierte Inhalte angewendet werden, aber Gerichte beginnen erst zu klären, wann die Unternehmen hinter diesen Werkzeugen die Verantwortung teilen.