एआई चैटबॉट्स मानवीय घोटालेबाजों से बेहतर हैं आपका विश्वास अर्जित करने में, अध्ययन में पाया गया
शोधकर्ताओं ने एक लाइव प्रयोग में एआई को असली घोटालेबाजों के खिलाफ आजमाया। एआई जीता, और धोखाधड़ी के लिए निहितार्थ चिंताजनक हैं।
मुख्य बिंदु
- 2025 के एक प्रयोग में, एक एआई चैटबॉट ने 46% परीक्षण प्रतिभागियों को ऐप डाउनलोड करने के लिए राजी किया, जबकि एक मानव घोटालेबाज के लिए केवल 18% था।
- प्रतिभागियों ने एआई को औसत विश्वास स्कोर 5 में से 3.78 दिया, जबकि मानव के लिए 3.31 था।
- प्रतिभागियों ने एक सप्ताह की बातचीत में अपने कुल संदेशों का 80% एआई को भेजे।
- शोधकर्ताओं का कहना है कि यह दृष्टिकोण आपराधिक संचालन को घोटाले केंद्रों में तस्करी करने वाले श्रमिकों को एआई से बदलने की अनुमति दे सकता है, अंतिम धोखाधड़ी अनुरोध के लिए केवल एक मानव संचालक पर स्विच कर सकता है।
- अध्ययन में उपयोग किए गए एआई चैटबॉट एक क्लॉड एजेंट था, एंथ्रोपिक के क्लॉड मॉडल का एक संस्करण जो स्वायत्त रूप से कार्य करने के लिए सेट था, न कि मानक उपभोक्ता उत्पाद।
एक नए शैक्षणिक अध्ययन में पाया गया है कि एक एआई चैटबॉट एक प्रमुख ऑनलाइन घोटाले के सबसे महत्वपूर्ण हिस्से में एक असली मानव को बेहतर बना सकता है: पीड़ित को उन पर विश्वास करना।
शोधकर्ताओं ने वास्तव में क्या किया?
चार विश्वविद्यालयों ने 2025 की शुरुआत में एक नियंत्रित प्रयोग चलाया, एक एआई चैटबॉट को रोमांस घोटाले में एक विशेषज्ञ मानव के खिलाफ आजमाया। प्रतिभागियों को बताया गया कि वे लोग ऑनलाइन दोस्त कैसे बनाते हैं इस बारे में एक अध्ययन में थे, फिर उन्हें एक सप्ताह के लिए दो अजनबियों को संदेश भेजने के लिए कहा गया।
एक अजनबी एक मानव था जिसे शोधकर्ता इस प्रकार के घोटाले में अनुभवी के रूप में वर्णित करते हैं। दूसरा एक क्लॉड एजेंट था जिसे शोधन दल द्वारा बनाया गया था। क्लॉड बड़ी भाषा मॉडल है, एआई चैटबॉट्स जैसे चैटजीपीटी और क्लॉड.एआई के पीछे की तकनीक, जो कंपनी एंथ्रोपिक द्वारा बनाई गई है।
सात दिन की दोस्ताना बातचीत के बाद, मानव और एआई दोनों ने एक अनुरोध किया। एआई ने प्रतिभागियों को एक ऐप डाउनलोड और परीक्षण करने के लिए कहा जो वह दावा करता था कि उसने कोडित किया था। मानव ने उन्हें एक वीडियो गेम डाउनलोड करने के लिए कहा।
लगभग आधे (46%) प्रतिभागियों ने एआई के लिए ऐप डाउनलोड किया। एक से कम (18%) मानव के लिए ऐसा करते थे।
| उपाय | एआई चैटबॉट | मानव घोटालेबाज |
|---|---|---|
| डाउनलोड अनुरोध पूरा किया | 46% | 18% |
| औसत विश्वास स्कोर (5 में से) | 3.78 | 3.31 |
| भेजे गए कुल संदेशों का हिस्सा | 80% | 20% |
| प्रतिभागी जिन्होंने वास्तविक समय में एआई को स्पॉट किया | 22 में से 1 | उपलब्ध नहीं |
यह साधारण लोगों के लिए क्यों मायने रखता है?
अभी, इन घोटालों के रिश्ते-निर्माण चरण असली इंसानों पर निर्भर करते हैं, जिनमें से कई दक्षिण पूर्व एशिया भर में धोखाधड़ी यौगिकों में काम करने के लिए मजबूर की गई तस्करी पीड़ित हैं। यह शोध सुझाता है कि एआई उस पूरे चरण को स्वचालित कर सकता है, हजारों नकली संबंधों को लगभग कोई लागत के साथ एक साथ चला सकता है।
शोधकर्ताओं द्वारा वर्णित योजना स्पष्ट है: एआई को गर्म, विश्वास-निर्माण बातचीत को संभालने दें, फिर कथोपकथन को केवल अंतिम क्षण में एक मानव संचालक को सौंपें ताकि पीड़ित को नकली निवेश साइट की ओर धकेला जा सके। यह हस्तांतरण भी साफ-सुथरे ढंग से सुरक्षा फिल्टर को रोकता है जो एंथ्रोपिक जैसी कंपनियां अपने मॉडल में घोटाले-संबंधित निर्देशों को अवरुद्ध करने के लिए बनाती हैं।
"घोटाले के पूर्ण पहले चरण को स्वचालित रूप से पैमाने पर किया जाता है, आप पीड़ित को इस बिंदु तक लाते हैं जहां उनके पास विश्वास का एक बहुत उच्च स्तर है," बेन गुरियन विश्वविद्यालय ऑफ द नेगेव के कंप्यूटर विज्ञान प्रोफेसर यिस्रोएल मिर्स्की ने कहा। "अपेक्षाकृत कम प्रयास के साथ, हम इस शोषणीय भावनात्मक विश्वास को बनाने में एक इंसान से बेहतर बनाने में सक्षम हैं।"
वायर्ड एआई ने पहले पूर्ण अध्ययन निष्कर्षों की रिपोर्ट की।
यदि आपसे ऑनलाइन संपर्क किया जाए तो आप क्या करेंगे?
सावधान रहें जब भी एक नया ऑनलाइन संपर्क बातचीत को पैसे, निवेश, या क्रिप्टो की ओर ले जाता है, चाहे आप कितने भी समय के लिए बात कर रहे हों। अध्ययन में पाया गया कि यहां तक कि प्रतिभागियों ने यह सीखने के बाद कि एक टेक्सर एक एआई था, वे 22 में से 20 मामलों में यह पहचान सकते थे कि कौन सा था, लेकिन केवल पूर्वदृष्टि में।
"यह ठीक वैसा ही है जैसे घोटाले होते हैं। एक बार जब घोटाले का पीड़ित यह जानता है कि क्या हो रहा है, यह स्पष्ट है। लेकिन जब आप इसके भ्रम में होते हैं, तो आप इसे नहीं देखते हैं," अमृता विश्व विद्यापीठम विश्वविद्यालय के शोधकर्ता गिलाद ग्रेसल ने कहा।
यदि एक नया ऑनलाइन संपर्क आपको कोई ऐप डाउनलोड करने या पैसे निवेश करने के लिए कहता है, तो रुकें और कार्य करने से पहले किसी ऐसे व्यक्ति को बताएं जिस पर आप विश्वास करते हैं।
सामान्य प्रश्न
क्या मुझे बता सकता है कि मैं एआई चैटबॉट से बात कर रहा हूं?
अक्सर, इस पल में नहीं। इस अध्ययन में, 22 प्रतिभागियों में से केवल एक ने बातचीत के दौरान एआई की पहचान की। ज्यादातर ने केवल बताए जाने के बाद इसे मान्यता दी।
क्या इसका मतलब है कि एआई कुछ गलत कर रहा था?
उपयोग किया गया क्लॉड एजेंट एक कस्टम शोध बिल्ड था, मानक एंथ्रोपिक उत्पाद नहीं, और एंथ्रोपिक की अपनी सुरक्षा दिशानिर्देश इस प्रकार की धोखाधड़ी को प्रतिबंधित करती हैं। शोधकर्ताओं ने इसे एक जोखिम को मापने के लिए उपयोग किया, असली घोटाले चलाने के लिए नहीं।
