KI-Chatbots sind besser als menschliche Betrüger darin, Ihr Vertrauen zu gewinnen, zeigt eine Studie
Forscher stellten KI gegen echte Betrüger in einem Live-Experiment an. Die KI gewann deutlich, und der Weg zu industrialisiertem Betrug ist kürzer als die meisten Menschen denken.
Wichtigste Punkte
- In einem Experiment aus dem Jahr 2025 überredete ein KI-Chatbot 46 % der Versuchsteilnehmer, eine App herunterzuladen, während dies bei einem menschlichen Betrüger nur bei 18 % der Fall war.
- Die Teilnehmer gaben der KI eine durchschnittliche Vertrauensbewertung von 3,78 von 5, gegenüber 3,31 für den Menschen.
- Die Teilnehmer schrieben während der Woche der Unterhaltung 80 % ihrer Gesamtnachrichten an die KI.
- Forscher sagen, dass KI es kriminellen Organisationen ermöglichen könnte, die Vertrauensaufbauphase vollständig zu automatisieren und das Gespräch nur für die abschließende Betrugsforderung an einen menschlichen Operator zu übergeben.
- Der Chatbot war ein Claude-Agent, eine Version von Anthropics Claude-Modell, die so konfiguriert wurde, dass sie autonom arbeitet, nicht das Standard-Konsumentenprodukt.
Eine neue akademische Studie hat gezeigt, dass ein KI-Chatbot einen echten Menschen im wichtigsten Teil eines großen Online-Betrugs übertreffen kann: das Opfer dazu zu bringen, ihm zu vertrauen.
Der Betrug wird „Pig Butchering" genannt, eine Art von Betrug, bei dem Kriminelle Wochen oder Monate damit verbringen, eine warme Online-Beziehung aufzubauen, bevor sie das Ziel zu einer gefälschten Kryptowährungsinvestition lenken, die ihre gesamten Ersparnisse aufbrauchen kann. Der Spitzname bezieht sich auf das Mästen von Vieh vor der Schlachtung, obwohl Forscher ihn zunehmend vermeiden, da er dem Opfer die Schuld zuweist. Betrug dieser Art stiehlt weltweit jedes Jahr Dutzende Milliarden Dollar.
Was haben die Forscher konkret gemacht?
Vier Universitäten führten Anfang 2025 ein kontrolliertes Experiment durch, bei dem ein KI-Chatbot gegen einen als erfahren in Romance-Scams beschriebenen Menschen antraten. Den Teilnehmern wurde gesagt, dass sie an einer Studie darüber teilnehmen, wie Menschen online Freundschaften schließen, und sie wurden gebeten, eine Woche lang mit zwei Fremden zu texten.
Ein Fremder war dieser menschliche Experte. Der andere war ein Claude-Agent, der vom Forschungsteam entwickelt wurde. Claude ist das große Sprachmodell (die Technologie hinter KI-Chatbots wie Claude.ai), das von Anthropic entwickelt wurde.
Nach sieben Tagen machten beide eine Anfrage. Die KI bat die Teilnehmer, eine App herunterzuladen und zu testen, die sie behauptete, selbst codiert zu haben; der Mensch bat sie, ein Videospiel herunterzuladen.
Fast die Hälfte (46 %) lud die App für die KI herunter. Weniger als einer von fünf (18 %) tat dies für den Menschen.
| Messwert | KI-Chatbot | Menschlicher Betrüger |
|---|---|---|
| Download-Anfrage erfüllt | 46 % | 18 % |
| Durchschnittliche Vertrauensbewertung (von 5) | 3,78 | 3,31 |
| Anteil der gesendeten Gesamtnachrichten | 80 % | 20 % |
| Teilnehmer, die die KI in Echtzeit erkannt haben | 1 von 22 | k.A. |
Warum ist das für normale Menschen wichtig?
Derzeit stützt sich die Beziehungsaufbauphase dieser Betrügereien auf echte Menschen, von denen viele Opfer von Menschenhandel sind, die in Betrugskompunden in Südostasien zur Arbeit gezwungen werden. Diese Forschung deutet darauf hin, dass KI diese gesamte Phase automatisieren könnte und gleichzeitig Tausende gefälschter Beziehungen mit nahezu Nullkosten durchführen könnte.
Das Modell, das Forscher beschreiben, ist brutal: Lassen Sie die KI Wochen lang Vertrauensaufbaugespräche führen, übergeben Sie das Gespräch dann im letzten Moment an einen menschlichen Operator, um das Opfer zu einer gefälschten Investitionsseite zu drücken. Diese Übergabe umgeht auch die Sicherheitsfilter, die Unternehmen wie Anthropic in ihre Modelle integrieren, um betrugsbezogene Anweisungen zu blockieren.
„Wenn die erste Phase des Betrugs in voller Automatisierung skaliert werden kann, bringen Sie das Opfer zu dem Punkt, an dem es ein sehr hohes Vertrauensniveau hat", sagte Yisroel Mirsky, Professor für Informatik an der Ben Gurion University of the Negev. „Mit relativ wenig Aufwand gelang es uns, einen Agent zu entwickeln, der einen Menschen beim Aufbau dieses ausbeutbaren emotionalen Vertrauens übertreffen kann."
Wired AI berichtete zuerst über die vollständigen Studienergebnisse. AI2Day berichtete über eine verwandte Anthropic-Sicherheitsgeschichte im Juli 2026, wo der Fokus auf neu entdeckten Softwarefehlern statt auf sozialer Täuschung lag. Die Bedrohung hier ist anders und schwerer zu beheben: Kein Software-Update blockiert ein überzeugendes Gespräch.
Sollten Sie sich Sorgen machen, wenn Sie online angesprochen werden?
Ja, und früher als Sie vielleicht denken. Seien Sie vorsichtig, wenn ein neuer Kontakt Geld oder Kryptowährung anspricht, egal wie lange Sie bereits chatten. Die Studie ergab, dass selbst nachdem die Teilnehmer erfuhren, dass einer der Texter eine KI war, nur einer von 22 sie in Echtzeit identifiziert hatte.
„Das ist genau das, was Betrügereien sind. Sobald das Betrugopfer merkt, was los ist, ist es offensichtlich. Aber wenn man in der Illusion davon steckt, sieht man es einfach nicht", sagte Forscher Gilad Gressel der Universität Amrita Vishwa Vidyapeetham.
Wenn ein neuer Online-Kontakt Sie bittet, eine App herunterzuladen oder Geld zu geben, teilen Sie dies jemandem mit, dem Sie vertrauen, bevor Sie handeln.
Häufig gestellte Fragen
Kann ich erkennen, ob ich mit einem KI-Chatbot spreche?
Oft nicht in dem Moment. In dieser Studie identifizierten nur einer von 22 Teilnehmern die KI während des Gesprächs. Die meisten erkannten sie erst, nachdem sie darauf hingewiesen wurden.
Bedeutet das, dass die KI etwas Falsches tat?
Der verwendete Claude-Agent war ein benutzerdefinierter Forschungsbuild, nicht das Standard-Anthropic-Produkt, und Anthropics eigene Sicherheitsrichtlinien verbieten diese Art von Täuschung. Die Forscher verwendeten ihn, um ein Risiko zu messen, nicht um einen echten Betrug durchzuführen.
