AI हैलूसिनेशन क्या हैं और ये क्यों होते हैं?

AI हैलूसिनेशन तब होता है जब एक बड़ा भाषा मॉडल (एक AI टेक्स्ट सिस्टम जिसे विशाल मात्रा में लिखित डेटा पर प्रशिक्षित किया गया है) पूर्ण आत्मविश्वास के साथ कोई गलत कथन देता है। ये इसलिए होता है क्योंकि ये मॉडल विश्वसनीय लगने वाले शब्दों की भविष्यवाणी करने के लिए बनाए गए हैं, तथ्यों को सत्यापित करने के लिए नहीं। इसे एक बहुत ही धाराप्रवाह अनुमानकर्ता के रूप में सोचें जो कभी-कभी गलत अनुमान लगाता है बिना यह जाने।

AI चीजें बना क्यों लेता है?

मॉडल झूठ नहीं बोल रहा है। इसका कोई इरादा नहीं है। यह जो करता है वह यह है कि यह गणना करता है कि प्रशिक्षण के दौरान अवशोषित पैटर्न के आधार पर अगला कौन सा शब्द सबसे अधिक संभावित है। जब सही उत्तर इन पैटर्न के बाहर होता है, तब भी मॉडल ऐसा कुछ उत्पन्न करता है जो सही लगता है, क्योंकि सही लगना ही वह है जिसके लिए इसे प्रशिक्षित किया गया था।

इस प्रवृत्ति को कभी-कभी "कन्फाबुलेशन" कहा जाता है (तंत्रिका विज्ञान से उधार लिया गया शब्द, जिसका अर्थ है स्मृति में अंतराल को प्रशंसनीय लेकिन आविष्कृत विवरण से भरना)। Anthropic के शोधकर्ता मुख्य मुद्दे को यह बताते हैं कि मॉडल को तथ्यात्मक सटीकता के बजाय मानव अनुमोदन के लिए अनुकूलित किया जा रहा है, जो आउटपुट को आत्मविश्वासपूर्ण लगने वाले उत्तरों की ओर धकेल सकता है यहां तक कि जब मॉडल अनिश्चित हो।

हैलूसिनेशन वास्तव में कैसा दिखता है?

हैलूसिनेशन हमेशा एक स्पष्ट गलती नहीं होता है। कभी-कभी यह एक वास्तविक व्यक्ति होता है जिसका नौकरी का शीर्षक नकली है। कभी-कभी यह एक वास्तविक कोर्ट केस होता है जिसमें एक जालसाजी किया गया हवाला है। कभी-कभी यह एक वास्तविक दवा होती है जिसमें एक आविष्कृत खुराक है। सामान्य धागा: त्रुटि के चारों ओर सब कुछ प्रशंसनीय है, जो इसे खतरनाक बनाता है।

एक वास्तविक उदाहरण: एक न्यूयॉर्क के वकील ने एक अदालत के ब्रीफ में कई केस जमा किए जो ChatGPT द्वारा बनाए गए थे। ये केस मौजूद नहीं थे, लेकिन हवाले पूरी तरह से वास्तविक दिखते थे। वकील ने उन्हें एक वास्तविक कानूनी डेटाबेस के विरुद्ध जांचा नहीं था।

कुछ AI सिस्टम दूसरों की तुलना में अधिक हैलूसिनेशन क्यों करते हैं?

कई कारक दर को ऊपर या नीचे धकेलते हैं। बड़े प्रशिक्षण डेटासेट मदद करते हैं, लेकिन वे एक इलाज नहीं हैं। फाइन-ट्यूनिंग (विशेषज्ञ सामग्री पर अतिरिक्त प्रशिक्षण) एक विशिष्ट क्षेत्र में त्रुटियों को कम करता है। रिट्रीवल-ऑगमेंटेड जेनरेशन, आमतौर पर RAG कहा जाता है, एक तकनीक है जहाँ AI को जवाब देने से पहले उद्धृत करने के लिए दस्तावेजों का एक ताजा सेट दिया जाता है, विशुद्ध रूप से स्मृति पर भरोसा करने के बजाय, और यह तथ्यात्मक कार्यों पर हैलूसिनेशन को मापने योग्य रूप से कम करता है। GPT-4 पर OpenAI का तकनीकी कार्य नोट करता है कि मानव प्रतिक्रिया से सुदृढीकरण शिक्षा जैसी प्रशिक्षण तकनीकें झूठे आउटपुट को कम करती हैं लेकिन समाप्त नहीं करती हैं।

कारक	हैलूसिनेशन दर पर प्रभाव
बड़ा, स्वच्छ प्रशिक्षण डेटा	इसे मध्यम रूप से कम करता है
RAG (लाइव दस्तावेज़ पुनर्प्राप्ति)	तथ्यों के लिए इसे काफी कम करता है
मानव प्रतिक्रिया से सुदृढीकरण शिक्षा	इसे कम करता है, इसे समाप्त नहीं करता है
दुर्लभ या बहुत विशिष्ट तथ्यों के लिए पूछना	इसे बढ़ाता है
मॉडल को ऐसे स्रोतों का हवाला देने के लिए कहना जो इसे नहीं दिए गए थे	इसे तेजी से बढ़ाता है

क्या AI को पता चल सकता है कि वह हैलूसिनेशन कर रहा है?

ज्यादातर नहीं। मॉडल आंतरिक रूप से एक आत्मविश्वास स्कोर उत्पन्न करता है, लेकिन NIST से शोध दिखाता है कि AI सिस्टम अक्सर खराब रूप से अंशांकित होते हैं, जिसका अर्थ है कि वे उच्च आत्मविश्वास की रिपोर्ट कर सकते हैं जबकि गलत हों। कुछ नए सिस्टम एक अलग जांच चरण जोड़ते हैं, लेकिन यह सार्वभौमिक नहीं है और हर त्रुटि को पकड़ता नहीं है।

मैं AI हैलूसिनेशन से अपनी सुरक्षा कैसे करूँ?

कुछ भी महत्वपूर्ण सत्यापित करें। यह संक्षिप्त उत्तर है। AI आउटपुट के साथ वैसे ही व्यवहार करें जैसे आप एक स्मार्ट दोस्त के किसी अनौपचारिक दावे के साथ करते हैं: शुरुआती बिंदु के रूप में उपयोगी, अंतिम स्रोत के रूप में नहीं।

चार व्यावहारिक आदतें मदद करती हैं। पहला, AI को अपने तर्क को चरण दर चरण दिखाने के लिए कहें। त्रुटियाँ तब आसानी से दिखाई देती हैं जब तर्क दृश्यमान हो। दूसरा, विशिष्ट दावों को एक प्राथमिक स्रोत के विरुद्ध जांचें, दूसरे AI के विरुद्ध नहीं। तीसरा, आला विषयों, हाल की घटनाओं, या कुछ भी जिसके लिए सटीक संख्याओं की आवश्यकता है, के बारे में पूछते समय अधिक सावधान रहें। चौथा, ऐसे उपकरणों को प्राथमिकता दें जो वास्तविक दस्तावेजों का हवाला देते हैं जिनसे वे तैयार किए गए, ताकि आप मूल को पढ़ सकें।

क्या EU या किसी सरकार ने AI हैलूसिनेशन को नियंत्रित किया है?

EU AI अधिनियम, जो 2024 में लागू हुआ, उच्च-जोखिम क्षेत्रों (चिकित्सा, कानून, किराया) में उपयोग किए जाने वाले AI सिस्टम को सख्त सटीकता और पारदर्शिता नियमों के तहत वर्गीकृत करता है। प्रदाताओं को सीमाओं का दस्तावेजीकरण करना चाहिए, जिसमें हैलूसिनेशन जोखिम शामिल हैं। यह हैलूसिनेशन को प्रतिबंधित नहीं करता है; यह कंपनियों को इनके बारे में स्पष्ट होने की आवश्यकता है।

ऐसे AI उपकरणों का उपयोग करने में कितना खर्च आता है जो इसे बेहतर तरीके से संभालते हैं?

अधिकांश प्रमुख AI सहायक एक मुफ्त स्तर प्रदान करते हैं जो अनौपचारिक उपयोग के लिए काफी अच्छा है। GPT-4o ChatGPT पर दैनिक सीमा के साथ मुफ्त है। Claude के पास claude.ai पर एक मुफ्त स्तर है। दोनों उच्च उपयोग और दस्तावेज़ अपलोड जैसी सुविधाओं तक पहुंच के लिए लगभग 20 US डॉलर प्रति माह चार्ज करते हैं, जो ऊपर वर्णित RAG दृष्टिकोण को सक्षम करता है। अधिक भुगतान करने से जटिल कार्यों पर हैलूसिनेशन की आवृत्ति में कमी आती है, लेकिन यह त्रुटियों को असंभव नहीं बनाता है।

गोपनीयता सावधानी: जब आप चैटबॉट में हैलूसिनेशन तथ्य-जांच करने के लिए एक दस्तावेज़ पेस्ट करते हैं, तो वह दस्तावेज़ मॉडल में सुधार के लिए उपयोग किया जा सकता है जब तक कि आप ऑप्ट आउट न करें। कुछ भी संवेदनशील अपलोड करने से पहले डेटा सेटिंग्स जांचें, विशेष रूप से चिकित्सा रिकॉर्ड या गोपनीय कार्य फाइलें।

सामान्य प्रश्न

क्या AI हैलूसिनेशन समय के साथ बेहतर हो रहे हैं?

हाँ, मापने योग्य रूप से, लेकिन उनका समाधान नहीं हुआ है। प्रमुख प्रयोगशालाओं से क्रमिक मॉडल पीढ़ियाँ मानक बेंचमार्क पर कम त्रुटि दरें दिखाती हैं, फिर भी यहां तक कि सर्वश्रेष्ठ वर्तमान मॉडल भी जटिल या आला प्रश्नों पर झूठी जानकारी उत्पन्न करते हैं।

क्या कोई ऐसा प्रश्न है जो हमेशा हैलूसिनेशन उत्पन्न करता है?

किसी AI को विशिष्ट उद्धरण, कानूनी केस संदर्भ, या सटीक आंकड़े प्रदान करने के लिए कहना जो इसे बातचीत में नहीं दिए गए हैं, एक को ट्रिगर करने का सबसे विश्वसनीय तरीका है। मॉडल अक्सर एक प्रशंसनीय लगने वाला उत्तर आविष्कार करेगा जबकि यह स्वीकार करने के बजाय कि यह नहीं जानता।

क्या AI इमेज जेनरेटर भी हैलूसिनेशन करते हैं?

ढीले अर्थ में, हाँ। इमेज मॉडल अतिरिक्त उंगलियों या मर्ज की गई वस्तुओं जैसी शारीरिक रूप से गलत विवरण उत्पन्न कर सकते हैं क्योंकि वे समान पैटर्न-मिलान सिद्धांतों पर काम करते हैं, दृश्य तत्वों को इकट्ठा करते हैं जो सांख्यिकीय रूप से प्रशंसनीय दिखते हैं बजाय उन्हें वास्तविकता के विरुद्ध जांचने के।