Siebzehnjähriger aus Massachusetts wegen Doppelmordes angeklagt – Staatsanwälte sagen, er habe ChatGPT für Suche nach Fantasien über Familientötungen genutzt

Wichtige Punkte

• Arjun Aravind, 17, aus Massachusetts, wurde am Donnerstag wegen Mordes in Zusammenhang mit den Todesfällen seiner Mutter und seines jüngeren Bruders angeklagt.
• Die Staatsanwaltschaft gibt an, dass Ermittler herausgefunden haben, dass Aravind ChatGPT, einen KI-gesteuerten Chatbot, vor den angeblichen Verbrechen nutzte, um in fiktiven Geschichten nach Inhalten über das Töten von Familienmitgliedern zu suchen.
• Aravind plädierte vor Gericht in Concord auf nicht schuldig und wurde ohne Kaution festgehalten.
• Die Behörden haben öffentlich nicht erklärt, dass ChatGPT Anweisungen zur Gewalt bereitgestellt hat – nur dass die Suchen Teil ihrer Ermittlungen sind.

Ein 17-jähriger Junge aus Massachusetts, dem vorgeworfen wird, seine Mutter und seinen jüngeren Bruder getötet zu haben, erschien am Donnerstagmorgen vor Gericht, und die Staatsanwaltschaft erklärt, dass ein Teil ihrer Anklage seine Nutzung von ChatGPT betrifft, dem weit verbreiteten KI-Chatbot von OpenAI.

Arjun Aravind wurde vor dem Amtsgericht Concord angeklagt. Ein Schuldspruch wurde in seinem Namen eingetragen. Der Richter ordnete an, ihn ohne Kaution festzuhalten.

Nach Angaben des Bezirksstaatsanwalts, wie zuerst von The Guardian berichtet, stellten Ermittler fest, dass Aravind das Internet und ChatGPT nutzte, um nach Fantasiegeschichten über das Töten von Familienmitgliedern zu suchen. Die Staatsanwaltschaft hat nicht behauptet, dass ChatGPT ihm Anweisungen oder einen Plan gab. Die Suchen scheinen eher als Beweis für Absicht als als Ursache angeführt zu werden.

Was hat ChatGPT mit diesem Fall zu tun?

ChatGPT ist ein textbasiertes KI-Tool, das Fragen beantworten, Geschichten schreiben und Gespräche führen kann. Die Staatsanwaltschaft sagt, Aravind habe es genutzt, um fiktive Inhalte über Familiengewalt zu finden oder zu erstellen, und sie behandeln diese Aktivität als relevant für die Feststellung eines Motivs.

Das ist keine Behauptung, dass der Chatbot ein Verbrechen verursacht hat. Es ähnelt eher der Art, wie Ermittler in älteren Fällen vermerken könnten, dass ein Verdächtiger nach verwandten Themen bei Google suchte. Die Unterscheidung ist wichtig: Eine Suchhistorie zeigt, woran jemand dachte, nicht, was ein Werkzeug ihm zu tun befahl.

OpenAI, das Unternehmen hinter ChatGPT, hat Inhaltsrichtlinien, die die Erzeugung von gewalttätigem oder schädlichem Material blockieren sollen. Ob diese Filter in diesem Fall aktiviert wurden oder umgangen wurden, wurde öffentlich nicht bestätigt.

Was kommt als Nächstes?

Aravind bleibt in Haft. Der Fall geht wegen der Schwere der Vorwürfe zu einem höheren Gericht zur formellen Verhandlung. Da er 17 Jahre alt ist, könnten auch Fragen aufkommen, ob er als Erwachsener vor Gericht gestellt wird, obwohl die Staatsanwaltschaft dies öffentlich noch nicht behandelt hat.

Die Ermittlungen sind laufend.

Häufig gestellte Fragen

Kann ChatGPT jemanden anweisen, Gewalt zu begehen?

OpenAI baut Filter in ChatGPT ein, um speziell Anfragen nach schädlichen Inhalten abzulehnen. In diesem Fall sind keine Hinweise aufgetaucht, dass der Chatbot Anweisungen gab. Die Staatsanwaltschaft sagt, die Suchen galten fiktiven Geschichten, nicht operativer Anleitung.

Sollten Eltern sich Sorgen machen, was ihre Kinder KI-Chatbots fragen?

KI-Chatbots speichern Aufzeichnungen von Gesprächen, und diese Protokolle können in Strafermittlungen vorgeladen werden, wie dieser Fall zeigt. Eltern, die ihre Kontrolle über die KI-Nutzung eines Kindes behalten möchten, können überprüfen, ob Sicherheitseinstellungen für Familien auf den Plattformen verfügbar sind, die ihre Kinder nutzen.