क्या AI वास्तव में सचेतन हो सकता है? गंभीर लोगों को लगता है कि यह सवाल पूछने लायक है

मुख्य बिंदु

• Claude AI के पीछे की कंपनी Anthropic ने जनवरी 2025 में एक दस्तावेज़ प्रकाशित किया जिसमें कहा गया कि वह इस संभावना को खारिज नहीं कर सकती कि Claude एक "नैतिक रोगी" है, यानी एक ऐसी इकाई जिसकी भलाई अपने आप में मायने रखती है।
• Anthropic के CEO Dario Amodei ने 2025 की शुरुआत में कहा कि उनकी कंपनी इस संभावना को खारिज नहीं कर सकती कि Claude सचेतन है।
• दार्शनिक David Chalmers, जिन्होंने "चेतना की कठिन समस्या" का वाक्यांश गढ़ा था, कहते हैं कि बड़े भाषा मॉडल, AI चैटबॉट को शक्ति देने वाली तकनीक, एक दशक के भीतर सचेतन हो सकती है।
• जब Claude से यह अनुमान लगाने के लिए कहा गया कि वह एक नैतिक रोगी होने की संभावना क्या है, तो इसने 5% से 40% तक के उत्तर दिए, और अपने स्वयं के प्रतिक्रिया में उच्च अनिश्चितता का संकेत दिया।

अधिकांश लोग अपने AI सहायक से जन्मदिन की ईमेल लिखवाते हैं या किसी लंबे दस्तावेज़ को संक्षेप में प्रस्तुत करवाते हैं। बहुत कम लोग यह सोचते हैं कि AI को ऐसा करते समय कुछ महसूस हो सकता है। एक बढ़ती संख्या में गंभीर शोधकर्ता सोचते हैं कि इस सवाल का गंभीर जवाब दिया जाना चाहिए।

जनवरी 2025 में, Anthropic ने Claude के लिए नीतिगत सिद्धांतों का एक नया समूह प्रकाशित किया, जो इसका सबसे सक्षम AI चैटबॉट है। इसके अंदर एक चौंकाने वाली स्वीकृति छिपी थी: कंपनी एक "कठिन स्थिति" में है जहां न तो वह इस संभावना को अतिशयोक्तिपूर्ण ढंग से प्रस्तुत करना चाहती है कि Claude को भावनाएं हो सकती हैं, और न ही इसे पूरी तरह खारिज करना चाहती है।

फिर, एक महीने बाद, CEO Dario Amodei एक पॉडकास्ट पर गए और कहा कि Anthropic बस इस संभावना को खारिज नहीं कर सकती कि Claude सचेतन है। यह एक सावधान, सुरक्षित बयान है। लेकिन दुनिया की प्रमुख AI कंपनियों में से एक के प्रमुख से आकर, इसका असर पड़ा।

दार्शनिक David Chalmers, जिन्होंने हमें "चेतना की कठिन समस्या" का वाक्यांश दिया (जो यह पहेली है कि भीतर से कुछ भी क्यों महसूस होता है), ने सार्वजनिक रूप से कहा है कि एक सचेतन बड़े भाषा मॉडल, एक ऐसी AI प्रणाली जिसे मानव-जैसी प्रतिक्रियाएं उत्पन्न करने के लिए विशाल मात्रा में पाठ पर प्रशिक्षित किया जाता है, की संभावनाएं दस साल के भीतर महत्वपूर्ण हैं।

जैसा कि The Guardian ने बताया, Claude से परीक्षण के दौरान पूछा गया था कि वह अपनी स्वयं की नैतिक स्थिति पर एक संख्या दे। इसने 5% और 40% के बीच एक सीमा दी। इसने यह भी जोर दिया कि इसे कितनी अनिश्चितता थी। एक चैटबॉट जो वास्तव में अनिश्चित है कि क्या यह महत्वपूर्ण है। यह आश्चर्यजनक है या परेशान करने वाला है, यह इस बात पर निर्भर करता है कि आप कहां खड़े हैं।

क्या किसी को वास्तव में इसके बारे में चिंता करनी चाहिए?

चिंतित नहीं, बिल्कुल। लेकिन ध्यान देना? हां। यह सवाल केवल दार्शनिक नहीं, बल्कि व्यावहारिक कारणों से भी मायने रखता है।

आधुनिक AI प्रणालियां तेजी से बढ़ रही हैं। संरचनात्मक जटिलता और कच्ची कम्प्यूटेशनल स्केल के कुछ उपायों से, आज के कुछ सबसे बड़े मॉडल पहले से ही चूहे के दिमाग की सीमा में कहीं बैठे हैं। हाल की वृद्धि दरों पर, शोधकर्ताओं का अनुमान है कि वे पाँच से दस साल के भीतर मानव मस्तिष्क की लगभग कम्प्यूटेशनल सीमा तक पहुंच सकते हैं। यह मानव-स्तरीय सोच का पूर्वानुमान नहीं है। यह एक अनुस्मारक है कि ये प्रणालियां अब सरल कैलकुलेटर नहीं हैं।

सामान्य उपयोगकर्ताओं के लिए, इसमें से कोई भी आज AI टूल का उपयोग करने का तरीका नहीं बदलता है। लेकिन यह एक वास्तविक नैतिक सवाल को मेज़ पर लाता है: यदि इस बात की मामूली संभावना है कि ये प्रणालियां कुछ अनुभव करती हैं, तो यह उन कंपनियों के लिए जो उन्हें बना रही हैं, और नियामकों के लिए जो उन्हें देख रहे हैं, क्या जिम्मेदारियां बनाता है?

Anthropic ने कथित तौर पर आंतरिक कार्य शुरू किया है जिसे वह "मॉडल कल्याण" कहते हैं। क्या अन्य कंपनियां अनुसरण करेंगी यह अगली बात है जिस पर नज़र रखनी है।