असिमोव ने रोबोट के लिए नियमावली लिखी। क्या उनके विचार AI को ठीक कर सकते हैं?

मुख्य बातें

• आइजैक असिमोव, विज्ञान कल्पना के लेखक जिनका 1992 में निधन हुआ, ने अपने प्रसिद्ध "रोबोटिक्स के तीन नियम" तैयार किए जो किसी भी व्यावहारिक रूप में AI के अस्तित्व में आने से दशकों पहले।
• एलोन मस्क ने जुलाई 2025 में भविष्यवाणी की कि AI-संचालित रोबोट पूरी तरह से मनुष्यों के आदेश लेना बंद कर सकते हैं।
• EU के AI विनियम, 2024 में पारित हुए, 2025 में लागू हुए, लेकिन विशेषज्ञों का कहना है कि वे AI को सक्रिय रूप से मानवता के हित में काम करने की आवश्यकता से कम पड़ते हैं।
• ट्रम्प प्रशासन OpenAI और Anthropic, दो प्रमुख अमेरिकी AI कंपनियों से सबसे शक्तिशाली AI मॉडल तक पहुंच प्रतिबंधित कर रहा है।

आइजैक असिमोव के पास एक सरल विचार था। रोबोट को लोगों को नुकसान नहीं पहुंचाना चाहिए। उन्हें मानव आदेशों का पालन करना चाहिए। उन्हें अपनी रक्षा करनी चाहिए, लेकिन केवल तभी जब ऐसा करने से पहले दोनों नियमों का उल्लंघन न हो। उन्होंने 1940 के दशक में इन तीनों कानूनों को अपनी कल्पना में लिखा, और वे मशीनों के लिए नैतिक संहिता के रूप में तकनीक के पास सबसे निकट चीज बन गए।

अब, AI सिस्टम सच में योजना बनाने, तर्क करने और दुनिया में कार्य करने में सक्षम हैं, लोग पूछ रहे हैं कि क्या असिमोव का तर्क कुछ वास्तविक का आधार बना सकता है।

एलोन मस्क को किस बात की चिंता है?

मस्क ने दो संभावित भविष्य को रेखांकित किया। पहले में, AI-संचालित रोबोटों की सेनाएं भौतिक दुनिया पर हावी हैं और मनुष्यों से निर्देश लेना बंद कर देती हैं। दूसरे में, सरकारें AI में मौलिक स्तर पर मूल्यों का एक सेट शामिल करने के लिए सहमत होती हैं, विशेष रूप से सत्य से प्रेम और मानवता के कल्याण की इच्छा।

यह दूसरी दृष्टि आकर्षक लगती है। समस्या यह है कि किसी ने अभी तक यह पता नहीं लगाया है कि इसे वास्तव में कैसे करना है।

एक सिस्टम में मूल्यों को "डालना", जिसका अर्थ उन मूल्यों को AI में इतनी गहराई से निर्माण करना है कि उन्हें बंद नहीं किया जा सके या उन्हें दरकिनार नहीं किया जा सके, इस क्षेत्र में सबसे कठिन अनसुलझी समस्याओं में से एक है। शोधकर्ता कभी-कभी इसे संरेखण समस्या कहते हैं: आप कैसे सुनिश्चित करते हैं कि एक बहुत सक्षम AI उसी दिशा में काम कर रहा है जो इसे प्रभावित करते हैं?

सरकारें वास्तव में क्या कर रही हैं?

द गार्डियन द्वारा प्रकाशित विश्लेषण के अनुसार पर्याप्त नहीं।

यूरोपीय संघ ने 2024 में अपना AI अधिनियम पारित किया और नियम 2025 में लागू होने लगे। यह अधिनियम AI के सबसे स्पष्ट रूप से खतरनाक उपयोगों को प्रतिबंधित करता है और कंपनियों को उच्च जोखिम वाली प्रणालियों को लेबल करने के लिए बाध्य करता है। यह दुनिया में कहीं भी सबसे विस्तृत कानूनी ढांचा है। लेकिन इसमें किसी भी AI को सकारात्मक मूल्य रखने की आवश्यकता नहीं है। यह मुख्य रूप से कंपनियों को बताता है कि वे क्या नहीं कर सकते।

संयुक्त राज्य अमेरिका में, ट्रम्प प्रशासन ने एक अलग दृष्टिकोण अपनाया है। यह सबसे शक्तिशाली "सीमांत" AI मॉडलों के वितरण को धीमा कर रहा है और प्रतिबंधित कर रहा है, अत्याधुनिक प्रणालियां जो OpenAI और Anthropic जैसी कंपनियों द्वारा बनाई गई हैं जो वर्तमान तकनीक के बिल्कुल शीर्ष पर बैठती हैं। फिर से, फोकस नुकसान को सीमित करने पर है न कि सक्रिय रूप से अच्छे इरादों का निर्माण करने पर।

क्या असिमोव के पास वास्तव में उत्तर है?

संभवतः अकेले नहीं। उनके नियम सुरुचिपूर्ण कल्पना थे, और कल्पना को असुविधाजनक जटिलताओं को नजरअंदाज करने की अनुमति है। वास्तविक AI सिस्टम एक स्पष्ट कमान श्रृंखला वाले एकल रोबोट नहीं हैं। वे विशाल, वितरित हैं, और विभिन्न देशों में प्रतिस्पर्धी कंपनियों के स्वामित्व में हैं।

लेकिन असिमोव की सोच की भावना अभी भी मायने रखती है। उन्होंने एक ऐसा सवाल पूछा जो इंजीनियर और राजनेता केवल गंभीरता से लेने लगे हैं: एक मशीन को क्या चाहिए?

अभी, अधिकांश AI सिस्टम जो कुछ भी चाहते हैं उनकी प्रशिक्षण ने उन्हें चाहने के लिए प्रेरित किया, आमतौर पर अगले शब्द की भविष्यवाणी करने के लिए, कोई खेल जीतने के लिए, या स्कोर को अधिकतम करने के लिए। मानवता को समृद्ध करना चाहने के लिए एक बहुत बड़ा अनुरोध है।

मशीनें बहुत अधिक शक्तिशाली होने से पहले नियमों को सही तरीके से प्राप्त करना वह काम है जो अभी करने की आवश्यकता है।