Sparplan der Lloyds Bank mit KI hat versteckte Kosten: Wer zahlt, wenn die Maschine Fehler macht?

Wichtigste Punkte

• Die Lloyds Bank kündigte am 30. Juli einen Sparplan in Höhe von 2 Milliarden Pfund an, der auf KI-gesteuerte Automatisierung ausgerichtet ist.
• Dr. Gleb Tsipursky argumentiert in The Guardian AI, dass die Produktivitätszahlen der Bank nur die Zeit berücksichtigen, die für den Nutzer des KI-Tools eingespart wird.
• Versteckte Kosten entstehen durch Kollegen, die erfundene Fakten überprüfen, Kundennachrichten korrigieren, abgelehnte Kreditanträge erklären und Fehler eskalieren.
• Ein einzelnes Team kann auf dem Papier produktiver wirken, während die tatsächliche Arbeitslast stillschweigend auf andere Bereiche der Bank verlagert wird.
• Keine öffentliche Aufschlüsselung dieser nachgelagerten Kosten wurde veröffentlicht.

Die Lloyds Bank machte Ende Juli Schlagzeilen, als sie einen Plan zur Kostenersparnis von 2 Milliarden Pfund vorstellte, bei dem künstliche Intelligenz – die Technologie, die Tools wie Chatbots und automatisierte Dokumentenverarbeitung antreibt – den Großteil der Arbeit übernimmt. Die Zahlen sahen sauber aus. Der Plan war es nicht.

Dr. Gleb Tsipursky, ein Experte für Entscheidungsfindung und KI-Risiken, stellt eine Frage, die die Schlagzeilenzahlen nicht beantworten: Wenn die KI etwas falsch macht, wessen Zeit zahlt dafür?

Wie sehen diese versteckten Kosten tatsächlich aus?

Sie sehen aus wie ein Kollege, der einen von der KI entworfenen Kundenbrief durchliest und einen erfundenen Zinssatz entdeckt. Sie sehen aus wie ein Filialarbeiter, der einen Kunden anruft, um ihm zu erklären, warum sein Hypothekenanantrag aufgrund eines Systemfehlers abgelehnt wurde. Sie sehen aus wie eine Eskalationswarteschlange, die es vorher nicht gab.

KI-Tools, die Text generieren, Dokumente zusammenfassen oder Anträge verarbeiten, können das produzieren, was Forscher „Halluzinationen" nennen, also selbstbewusst klingende Antworten, die sachlich falsch sind. Diese Fehler zu erkennen, kostet menschliche Zeit. Diese Zeit gehört jemandem.

Das Problem, so argumentiert Tsipursky, ist einfache Buchführung. Banken messen die Minuten, die der Mitarbeiter spart, der die KI direkt nutzt. Sie messen nicht die Minuten, die nachgelagert jeder damit verbringt, hinter ihr aufzuräumen. Ein Team meldet einen Produktivitätsgewinn. Das Risiko und die Mühe verlagern sich zur Seite.

Sollten sich Bankkunden Sorgen machen?

Nicht auf dramatische Weise, aber es gibt einige Dinge, die es wert sind zu beobachten. Wenn eine Bank die KI einen Brief über Ihr Konto verfasst, lesen Sie ihn sorgfältig durch, bevor Sie auf Zahlen oder Fristen darin reagieren. Wenn ein Antrag abgelehnt wird und der Grund sich falsch oder vage anfühlt, fordern Sie eine schriftliche Erklärung durch einen Menschen an.

Das praktische Problem besteht nicht darin, dass die KI eine Finanzkrise verursacht. Es ist, dass Fehler über viele kleine Interaktionen verteilt werden, von denen jede für den betroffenen Kunden ärgerlich oder kostspielig ist, während die internen Kennzahlen der Bank nur die Einsparungen zeigen.

Die Lloyds Bank hat keine Aufschlüsselung darüber veröffentlicht, wie sie die nachgelagerten menschlichen Kosten ihres KI-Programms verfolgen und melden wird. Bis dahin erzählt die Zahl von 2 Milliarden Pfund nur die halbe Geschichte.

Worauf sollten Leser achten?

Wenn Sie ein Lloyds-Kunde sind oder ein Angestellter einer Bank, die KI-Tools einführt, sollten Sie vier Dinge beachten: Briefe oder Nachrichten, die bestimmte Zahlen zitieren (Sätze, Guthaben, Fristen) ohne einen genannten menschlichen Verfasser; Ablehnungsschreiben, die keine klare Möglichkeit zum Einspruch bieten; Aufgaben, die früher eine Person brauchte und jetzt zwei zu brauchen scheinen; und alle Prozesse, in denen die Ausgabe der KI zu Ihnen geht, ohne einen Überprüfungsschritt durch einen Menschen zwischen der Maschine und Ihrem Geld.