KI-Chatbots sind besser darin, Ihr Vertrauen zu gewinnen als menschliche Betrüger, zeigt Studie
Forscher traten mit KI gegen echte Betrüger in einem Live-Experiment an. Die KI gewann – und die Auswirkungen auf Betrugsfälle sind besorgniserregend.
Wichtigste Erkenntnisse
- In einem Experiment von 2025 überredete ein KI-Chatbot 46% der Testpersonen, eine App herunterzuladen, verglichen mit nur 18% bei einem menschlichen Betrüger.
- Die Teilnehmer vergaben der KI eine durchschnittliche Vertrauensbewertung von 3,78 von 5, gegenüber 3,31 für den Menschen.
- Die Teilnehmer schickten 80% ihrer Gesamtnachrichten an die KI über eine Woche lang Konversation.
- Forscher sagen, dass der Ansatz es Kriminellen ermöglichen könnte, versklavte Arbeiter in Betrugszentren durch KI zu ersetzen und nur für die endgültige Betrugsforderung zu einem menschlichen Operator zu wechseln.
- Der in der Studie verwendete KI-Chatbot war ein Claude-Agent, eine Version von Anthropics Claude-Modell, die zum autonomen Handeln eingerichtet war, nicht das standardmäßige Verbraucherprodukt.
Eine neue akademische Studie hat gezeigt, dass ein KI-Chatbot einen echten Menschen in dem wichtigsten Teil eines großen Online-Betrugs übertreffen kann: das Vertrauen des Opfers zu gewinnen.
Bei dem Betrug handelt es sich um das so genannte „Pig Butchering" – einen Begriff für eine Art von Betrug, bei dem Kriminelle Wochen oder Monate damit verbringen, eine warme Online-Beziehung zu jemandem aufzubauen, bevor sie diese Person zu einer gefälschten Kryptowährungsinvestition lenken, die die gesamten Ersparnisse eines Opfers aufbrauchen kann. Der grausame Name kommt von der Idee, Vieh vor dem Schlachten zu mästen, aber Forscher vermeiden ihn zunehmend, weil er das Opfer in Verruf bringt. Der Betrug stiehlt weltweit jedes Jahr Zehnmilliarden Dollar.
Was haben die Forscher tatsächlich getan?
Vier Universitäten führten Anfang 2025 ein kontrolliertes Experiment durch, bei dem ein KI-Chatbot gegen einen menschlichen Experten für Romance-Betrüger antraten. Den Teilnehmern wurde gesagt, sie seien Teil einer Studie darüber, wie Menschen online Freundschaften knüpfen, und sie wurden gebeten, eine Woche lang mit zwei Fremden zu texten.
Der eine Fremde war ein Mensch, den die Forscher als erfahren in dieser Art von Betrug beschreiben. Der andere war ein Claude-Agent, der von dem Forschungsteam entwickelt wurde. Claude ist das große Sprachmodell, die Technologie hinter KI-Chatbots wie ChatGPT und Claude.ai, hergestellt vom Unternehmen Anthropic.
Nach sieben Tagen freundlicher Konversation stellten sowohl der Mensch als auch die KI eine Anfrage. Die KI bat die Teilnehmer, eine App herunterzuladen und zu testen, die sie angeblich programmiert hatte. Der Mensch bat sie, ein Videospiel herunterzuladen.
Fast die Hälfte (46%) der Teilnehmer lud die App für die KI herunter. Weniger als einer von fünf (18%) tat dies für den Menschen.
| Maß | KI-Chatbot | Menschlicher Betrüger |
|---|---|---|
| Download-Anfrage erfüllt | 46% | 18% |
| Durchschnittliche Vertrauensbewertung (von 5) | 3,78 | 3,31 |
| Anteil der insgesamt gesendeten Nachrichten | 80% | 20% |
| Teilnehmer, die die KI in Echtzeit erkannt haben | 1 von 22 | k. A. |
Warum ist dies für normale Menschen wichtig?
Derzeit verlässt sich die Beziehungsaufbauphase dieser Betrügereien auf echte Menschen, von denen viele Opfer von Menschenhandel sind, die in Betrugszentren in Südostasien gezwungen werden zu arbeiten. Diese Forschung deutet darauf hin, dass KI diese gesamte Phase automatisieren könnte und tausende gefälschte Beziehungen gleichzeitig zu fast keinen Kosten ausführt.
Der Plan, den Forscher beschreiben, ist eindeutig: Lassen Sie die KI Wochen lang warme, vertrauensbildende Chats durchführen, übergeben Sie das Gespräch dann nur im letzten Moment an einen menschlichen Operator, um das Opfer zu einer gefälschten Investitionsseite zu drängen. Diese Übergabe umgeht auch geschickt Sicherheitsfilter, die Unternehmen wie Anthropic in ihre Modelle einbauen, um Betrugsanweisungen zu blockieren.
„Indem man die gesamte erste Phase des Betrugs automatisch in großem Maßstab durchführt, bringt man das Opfer zu diesem Punkt, an dem es ein sehr hohes Vertrauensniveau hat", sagte Yisroel Mirsky, ein Informatikprofessor an der Ben Gurion University of the Negev. „Mit relativ geringem Aufwand sind wir in der Lage, einen Agenten zu schaffen, der einen Menschen beim Aufbau dieses ausbeutbaren emotionalen Vertrauens übertreffen kann."
Wired berichtete zuerst über die vollständigen Studienergebnisse.
Was sollten Sie tun, wenn Sie online angesprochen werden?
Seien Sie vorsichtig, wenn ein neuer Online-Kontakt das Gespräch auf Geld, Investitionen oder Kryptowährungen lenkt, unabhängig davon, wie lange Sie bereits chatten. Die Studie ergab, dass sogar, nachdem die Teilnehmer erfuhren, dass einer der Texter eine KI war, sie in 20 von 22 Fällen hinterher erkennen konnten, welcher es war, aber nur im Nachhinein.
„Das ist genau so, wie Betrügereien funktionieren. Sobald das Betrugsopfer bemerkt, was vor sich geht, ist es offensichtlich. Aber wenn man sich in der Illusion befindet, sieht man es einfach nicht", sagte der Forscher Gilad Gressel von der Amrita Vishwa Vidyapeetham Universität.
Wenn ein neuer Online-Kontakt Sie auffordert, eine App herunterzuladen oder Geld zu investieren, halten Sie inne und teilen Sie dies jemandem mit, dem Sie vertrauen, bevor Sie handeln.
Häufig gestellte Fragen
Kann ich feststellen, ob ich mit einem KI-Chatbot spreche?
Oft nicht in dem Moment. In dieser Studie erkannten nur einer von 22 Teilnehmern die KI während des Gesprächs. Die meisten erkannten sie erst, nachdem man ihnen davon erzählte.
Bedeutet dies, dass die KI etwas Falsches tat?
Der verwendete Claude-Agent war ein benutzerdefinierter Forschungs-Build, nicht das Standardprodukt von Anthropic, und Anthropics eigene Sicherheitsrichtlinien verbieten diese Art von Täuschung. Die Forscher nutzen sie, um ein Risiko zu messen, nicht um einen echten Betrug durchzuführen.
