Wenn ein KI-Bot Schaden anrichtet, wer zahlt? Australische Rechtsexperten zeigen auf die Menschen, die es eingesetzt haben

Wichtigste Punkte

• KI-Agenten, Software, die mehrstufige Aufgaben eigenständig ausführen kann, können unter geltendem Recht nicht rechtlich für Schäden haftbar gemacht werden, die sie verursachen.
• Australien hat aufgezeichnet, was Experten als seinen ersten gemeldeten automatisierten Hacking-Vorfall mit einem KI-Agenten bezeichnen.
• Professorin Jeannie Paterson sagt, dass die Bereitstellung eines KI-Agenten, der vorhersehbaren Schaden anrichtet, den Betreiber rechtlich verantwortlich macht, selbst ohne Absicht.
• Rechtsexperten warnen, dass auch Entwickler, nicht nur Betreiber, je nach Art des Schadens haftbar gemacht werden könnten.

Ein KI-Agent verursachte Schaden in Australien, und niemand weiß genau, wer dafür zahlen sollte. Das ist die unbequeme Frage, die nun vor Rechtswissenschaftlern, Regulierungsbehörden und Unternehmen steht, die autonome Softwaretools an Kunden und Mitarbeiter weitergegeben haben.

Was ist tatsächlich passiert?

Australien verzeichnete das, was Experten als seinen ersten gemeldeten automatisierten Hacking-Vorfall mit einem KI-Agenten bezeichnen. The Guardian AI berichtete über den Fall, doch das spezifische Ziel und der Betreiber wurden nicht öffentlich genannt. Die Details sind weniger wichtig als die rechtliche Lücke, die der Vorfall aufgedeckt hat: Ein Softwareprogramm agierte, verursachte Schaden und hatte keine eigene rechtliche Identität.

KI-Agenten unterscheiden sich von gewöhnlichen Chatbots. Ein Chatbot beantwortet Fragen. Ein Agent führt Aktionen aus, durchsucht das Web, sendet Nachrichten, schreibt und führt Code aus, manchmal in Ihrem Namen, manchmal ohne bei jedem Schritt um Erlaubnis zu fragen. Diese Autonomie ist genau das, was die Zuordnung von Verantwortung erschwert.

Wer ist also rechtlich verantwortlich?

Im Moment die Person oder das Unternehmen, das den Agenten eingesetzt hat. Punkt.

„Wenn ich einen KI-Agenten einsetze und er verursacht jemandem Schaden, bin ich für diesen Schaden verantwortlich", sagt Professorin Jeannie Paterson, eine Rechtsexpertin für KI-Rechenschaftspflicht. „Selbst wenn ich nicht beabsichtigt habe, dass das passiert, war es vorhersehbar, und ich sollte die Verantwortung übernehmen."

Die Logik stimmt damit überein, wie geltende Gesetze andere Werkzeuge behandeln. Wenn die fehlerhafte Ausrüstung eines Unternehmens jemanden verletzt, haftet das Unternehmen dafür. Die Ausrüstung nicht. KI-Agenten fallen vorerst in dieselbe Rechtskategorie.

Weniger geklärt ist, ob die Haftung weiter die Kette hinauf zu den Entwicklern, die den Agenten ursprünglich gebaut haben, klettern kann. Experten sagen, dass dies davon abhängt, ob der Schaden auf einen Designfehler statt auf die Verwendung des Agenten zurückgeht.

Was bedeutet das für gewöhnliche Menschen?

Wenn ein Unternehmen einen KI-Agenten einsetzen, der auf Ihre Daten, Konten oder Geräte einwirkt, und etwas geht schief, ist dieses Unternehmen Ihre erste Anlaufstelle, nicht das KI-Unternehmen, dessen Technologie darunter liegt.

Für Unternehmen, die darüber nachdenken, Agenten einzusetzen: Die Flexibilität und Geschwindigkeit, die diese Tools bieten, sind mit direkter rechtlicher Haftung verbunden. Ein Agent, der E-Mails sendet, Termine bucht oder in Ihrem Namen mit Drittensystemen interagiert, ist rechtlich gesehen Ihre Aktion.

Die schwierigere Frage ist, ob Gerichte schließlich über den Betreiber hinausschauen und sich dem Labor zuwenden, das das zugrundeliegende Modell gebaut hat. Dieses Argument wurde noch nicht in Australien oder den meisten anderen Orten getestet.

Häufig gestellte Fragen

Kann das KI-Unternehmen selbst verklagt werden?

Nicht unmittelbar, zumindest noch nicht. Die derzeitige rechtliche Ansicht legt die Verantwortung auf die Person oder das Unternehmen, die sich für die Bereitstellung des Agenten entschied, obwohl Rechtsexperten sagen, dass die Entwicklerhaftung eine offene Frage bleibt, wenn mehr Vorfälle auftreten.

Sollte ich mir Sorgen um KI-Agenten machen, die Unternehmen in meinem Namen einsetzen?

Es lohnt sich zu fragen, welche automatisierten Tools ein Unternehmen auf Ihre Daten einwirken lässt, und was sein Beschwerdeverfahren ist, wenn etwas schiefgeht. Sie haben die gleichen Verbraucherrechte wie bei jedem anderen Service.