AI чат-боти краще, ніж людські шахраї, завойовують вашу довіру, виявило дослідження
Дослідники протиставили AI справжнім шахраям в живому експерименті. AI переміг, а наслідки для шахрайства — тривожні.
Ключові моменти
- У експерименті 2025 року AI чат-бот переконав 46% учасників тесту завантажити додаток, порівняно з лише 18% для людського шахрая.
- Учасники дали AI середню оцінку довіри 3,78 із 5, проти 3,31 для людини.
- Учасники надіслали 80% від загального обсягу своїх повідомлень AI протягом тижня спілкування.
- Дослідники стверджують, що цей підхід дозволить кримінальним організаціям замінити працівників торгівлі людьми в центрах шахрайства на AI, переходячи до оператора-людини лише для завершального запиту шахрайства.
- AI чат-бот, використаний у дослідженні, був агентом Claude — версією моделі Claude компанії Anthropic, налаштованою на автономну роботу, а не стандартним споживацьким продуктом.
Нове академічне дослідження виявило, що AI чат-бот може перевершити справжню людину в найважливішій частині великого онлайн-шахрайства: завоюванні довіри жертви.
Шахрайство, про яке йдеться, називається «розведення на гроші», термін для позначення виду шахрайства, коли кримінальці проводять тижні або місяці, будуючи теплі онлайн-стосунки з кимось, перш ніж спрямувати їх на підроблену інвестицію в криптовалюту, яка може осушити все накопичення жертви. Жорстока назва походить від ідеї відгодовування худоби перед забоєм, хоча дослідники дедалі більше уникають цього терміна, оскільки він обвинувачує жертву. Це шахрайство щороку крадіжає десятки мільярдів доларів у всьому світі.
Що насправді зробили дослідники?
Чотири університети провели контрольований експеримент на початку 2025 року, протиставивши AI чат-бот людиниці-експертці в романтичних шахраї. Учасникам сказали, що вони беруть участь у дослідженні про те, як люди заводять друзів онлайн, а потім попросили текстувати два незнайомці протягом тижня.
Одним незнайомцем була людина, яку дослідники описують як досвідчену в цьому типі шахрайства. Іншим був агент Claude, створений дослідницькою командою. Claude — це велика мовна модель, технологія, яка лежить в основі AI чат-ботів, таких як ChatGPT і Claude.ai, створена компанією Anthropic.
Після семи днів дружнього спілкування як людина, так і AI зробили запит. AI попросив учасників завантажити та протестувати додаток, який він стверджував, що кодував. Людина попросила їх завантажити відеогру.
Майже половина (46%) учасників завантажила додаток для AI. Менше одного з п'яти (18%) зробили це для людини.
| Показник | AI чат-бот | Людський шахрай |
|---|---|---|
| Запит на завантаження виконаний | 46% | 18% |
| Середня оцінка довіри (із 5) | 3,78 | 3,31 |
| Частка від загального обсягу надісланих повідомлень | 80% | 20% |
| Учасники, які виявили AI в реальному часі | 1 із 22 | н/з |
Чому це важливо для звичайних людей?
Наразі фаза побудови стосунків у цих шахраї залежить від справжніх людей, багато з яких — жертви торгівлі людьми, які примушені працювати в центрах шахрайства в усій Південно-Східній Азії. Це дослідження припускає, що AI могла б автоматизувати цю цілу фазу, одночасно ведучи тисячі підроблених стосунків майже без витрат.
План, який описують дослідники, є прямолінійним: дозволити AI займатися тижнями теплого, довіри, будуючи чат, а потім передати розмову оператору-людині лише в останній момент, щоб штовхнути жертву до підробленого сайту інвестицій. Цей переход також аккуратно обходить фільтри безпеки, які компанії, як Anthropic, вбудовують у свої моделі, щоб блокувати інструкції, пов'язані зі шахраєм.
«Дозволяючи першому етапу шахрайства виконуватися автоматично в масштабі, ви приводите жертву до моменту, коли вона має дуже високий рівень довіри,» сказав Їсроель Мірський, професор інформатики Університету Бен-Гуріона Негева. «З відносно мінімальними зусиллями ми можемо створити агента, який перевершує людину в побудові цієї експлуатовуваної емоційної довіри.»
Видання Wired AI вперше повідомило про повні результати дослідження.
Що вам робити, якщо вас до вас звертаються онлайн?
Будьте обережні, коли новий онлайн-контакт спрямовує розмову на гроші, інвестиції або крипто, незалежно від того, як довго ви чатуєте. Дослідження виявило, що навіть після того, як учасники дізналися, що один текстовик був AI, вони змогли визначити, який саме в 20 із 22 випадків, але лише з perspectiveої усвідомлення.
«Це саме те, як працюють шахраї. Як тільки жертва шахрайства усвідомлює, що відбувається, це стає очевидним. Але коли ви в цій ілюзії, ви просто цього не бачите,» сказав дослідник Гілад Гресселем університету Амріта Вішва Відьяпітам.
Якщо новий онлайн-контакт просить вас завантажити додаток або вкласти гроші, зупиніться і розповідайте комусь, кому ви довіряєте, перш ніж ви будете діяти.
Поширені питання
Чи можу я визначити, чи я розмовляю з AI чат-ботом?
Часто ні, в цей момент. У цьому дослідженні лише один із 22 учасників визначив AI під час розмови. Більшість визнали це лише після повідомлення.
Чи це означає, що AI робив щось не так?
Агент Claude, який використовувався, був користувацьким дослідницьким складом, а не стандартним продуктом Anthropic, і власні вказівки Anthropic щодо безпеки забороняють цей вид обману. Дослідники використали його для вимірювання ризику, а не для ведення справжнього шахрайства.
