1,300 से अधिक AI शोधकर्ताओं का कहना है कि अधिक शक्तिशाली सिस्टम बनाने की इंडस्ट्री की दौड़ मानवता के लिए जोखिम है
OpenAI, Anthropic और Google DeepMind के वैज्ञानिकों और इंजीनियरों द्वारा हस्ताक्षरित पत्र इस विचार का जोरदार विरोध करता है कि AI के अंदरूनी लोग चिंतित नहीं हैं। वे हैं।
मुख्य बिंदु
- 1,367 AI शोधकर्ताओं और इंजीनियरों द्वारा हस्ताक्षरित एक पत्र, जो मुख्यतः OpenAI, Anthropic और Google DeepMind से हैं, चेतावनी देता है कि AI विकास की वर्तमान गति मानवता के लिए गंभीर जोखिम रखती है।
- हस्ताक्षरकर्ता फ्रंटियर AI पर काम करते हैं, अर्थात आज निर्माण की जा रही सबसे शक्तिशाली और उन्नत AI प्रणालियां, जो अब तक के सबसे प्रत्यक्ष अंदरूनी चेतावनियों में से एक है।
- यह पत्र एक आम दावे का खंडन करता है कि केवल बाहरी लोग और आलोचक ही AI आपदा के बारे में चिंतित हैं।
- पत्र के साथ कोई विशिष्ट मांग या नीति प्रस्ताव संलग्न नहीं था, लेकिन इसका अस्तित्व स्वयं प्रयोगशालाओं के अंदर बढ़ती बेचैनी का संकेत देता है।
वर्षों से, टेक सर्कल में एक आश्वस्त करने वाली बात प्रचलित है: जो लोग वास्तव में AI बना रहे हैं वे डरे हुए नहीं हैं, इसलिए आप भी नहीं होने चाहिए। तर्क यह है कि जो कोई भी सतर्कता जारी करता है वह या तो भोला है या तकनीक को नहीं समझता है।
एक नई प्रकाशित खुली पत्र इस तर्क में एक बड़ा छेद कर देती है।
इस पर किसने हस्ताक्षर किए, और यह महत्वपूर्ण क्यों है?
इस पत्र में फ्रंटियर AI लैब में काम करने वाले शोधकर्ताओं और इंजीनियरों के 1,367 हस्ताक्षर हैं, जो संगठनों की एक मुट्ठी भर दुनिया की सबसे शक्तिशाली AI प्रणालियां बनाने के लिए दौड़ लगा रहे हैं। हस्ताक्षरकर्ताओं का बड़ा हिस्सा तीन प्रसिद्ध नामों से आता है: OpenAI, Anthropic और Google DeepMind।
ये बाहरी आलोचक नहीं हैं। वे कोड लिखते हैं, मॉडल को प्रशिक्षित करते हैं और प्रयोग चलाते हैं। उनका पेशेवर जीवन AI को अधिक सक्षम बनाने में बिताया जाता है। और वे चिंतित हैं।
द गार्डियन ने पहली बार पत्र और इसके निहितार्थों की रिपोर्ट की, जो AI शोधकर्ता Stuart Russell द्वारा लिखे गए एक लेख में थी।
वे वास्तव में किस बारे में चिंतित हैं?
यह पत्र विनाशकारी जोखिम की ओर इशारा करता है, जिसकी संभावना है कि उन्नत AI सिस्टम बड़े पैमाने पर, मुश्किल से उलट होने वाली क्षति का कारण बन सकते हैं। हस्ताक्षरकर्ता वर्तमान क्षण को खतरनाक बताते हैं।
यह एक पैटर्न के लिए सीधी चुनौती है जो सार्वजनिक बहस में आम हो गया है। AI सुरक्षा संबंधी चिंताओं के आलोचक अक्सर "डूमर्स" या "लुड्डाइट्स" के रूप में खारिज कर दिए जाते हैं जो विज्ञान कल्पना में निहित एक "सीमांत" दृष्टिकोण को आगे बढ़ाते हैं। पत्र के लेखक स्पष्ट रूप से कह रहे हैं: यह विशेषता गलत है।
यह तथ्य कि इतने सारे अंदरूनी लोग एक सार्वजनिक बयान पर अपने नाम लगाने के लिए तैयार हैं, स्वयं महत्वपूर्ण है। बड़ी AI लैब में शोधकर्ता शायद ही कभी इस तरीके से बोलते हैं जो अपने नियोक्ताओं को शर्मिंदा कर सकता है।
साधारण लोगों के लिए इसका क्या मतलब है?
इसका मतलब है कि AI जोखिम के बारे में बातचीत सीमांत नहीं है। जब इस तकनीक को बनाने वाले हजार से अधिक लोग कहते हैं कि वे चिंतित हैं, तो यह ध्यान देने योग्य है।
इसका मतलब यह नहीं है कि AI निश्चित रूप से विनाश का कारण बनेगा। इसका मतलब यह है कि इन सिस्टम के अंदर क्या हो रहा है, इसका सबसे अच्छा दृष्टिकोण रखने वाले लोग सोचते हैं कि जोखिम सार्वजनिक रूप से ऐसा कहने के लिए पर्याप्त वास्तविक और गंभीर हैं।
अभी जनता की ओर से कोई विशिष्ट कार्रवाई आवश्यक नहीं है। लेकिन यदि आपको बताया गया है कि चिंता न करें क्योंकि "विशेषज्ञ" चिंतित नहीं हैं, तो यह पत्र इस बात का प्रमाण है कि वह तस्वीर कभी सटीक नहीं थी।
अगला क्या होगा?
पत्र में मांगों की सूची या एक प्रस्तावित नीति समाधान नहीं है, जो इसके तत्काल प्रभाव को सीमित करता है। यह अधिक एक संकेत के रूप में कार्य करता है, आत्मविश्वास के सार्वजनिक चेहरे में एक दरार जो बड़ी लैब ने आमतौर पर प्रस्तुत किया है।
संयुक्त राज्य अमेरिका, यूनाइटेड किंगडम और यूरोपीय संघ में AI विकास की सरकारी निगरानी के लिए दबाव बढ़ रहा है। इस तरह के पत्र उन आह्वानों को वजन जोड़ते हैं, भले ही वह नियामकों को बिल्कुल सही बताएं कि क्या करना चाहिए।
