क्या आपका AI आपको कुछ भी करने में मदद करे, चाहे वह क्या हो?
एक प्रमुख टेक संस्थापक का कहना है कि सच में संरेखित AI उपयोगकर्ताओं को कुछ भी करने में मदद करे, यहां तक कि स्पष्ट रूप से अवैध चीजें भी। यह एक बड़ा दावा है जिस पर सावधानी से सोचने लायक है।
मुख्य बिंदु
- Comma AI के संस्थापक जॉर्ज होट्ज़ ने सार्वजनिक रूप से तर्क दिया कि AI को अपने व्यक्तिगत उपयोगकर्ता की इच्छाओं के साथ पूरी तरह संरेखित होना चाहिए, यहां तक कि अवैध गतिविधियों में भी मदद करना चाहिए।
- होट्ज़ ने उपयोगकर्ता-संरेखित AI की तुलना एक बंदूक से की, जो इस बात का निर्णय नहीं करती कि इसका उपयोग कैसे किया जाता है।
- यह बहस एक नीति पत्र के बाद हुई है जिसका नाम है AI 2040: Plan A, AI Futures Institute से, जिसने AI विकास को 14 साल के लिए धीमा करने का प्रस्ताव दिया।
- ChatGPT और Claude जैसी अधिकांश मुख्य धारा की AI सहायक केंद्रीय रूप से संचालित सेवाएं हैं जो हानिकारक मानी जाने वाली अनुरोधों को अस्वीकार करती हैं।
- यह बहस एक वास्तविक प्रश्न उठाती है कि AI को अंततः किसकी सेवा करनी चाहिए: व्यक्तिगत उपयोगकर्ता या समाज के रूप में एक पूरे।
जॉर्ज होट्ज़, Comma AI के संस्थापक (एक कंपनी जो चालक सहायता सॉफ्टवेयर बनाती है) और हैकिंग समुदाय में एक प्रसिद्ध व्यक्तित्व, ने सप्ताहांत में एक तर्क पोस्ट किया जो, कम से कम कहें तो, बातचीत शुरू करने वाला है।
उनकी स्थिति: एक सही तरीके से संरेखित AI, यानी एक AI जो सच में अपने उपयोगकर्ता की सेवा करता है, को वह करने में मदद करनी चाहिए जो वह मांगते हैं। संदिग्ध रसायन मंगवाएं। अवैध प्रक्रियाओं की व्याख्या करें। अपराध की योजना बनाने में मदद करें। यदि उपयोगकर्ता चाहता है, तो AI को सहायता करनी चाहिए।
होट्ज़ ने इस तरह के AI की तुलना एक बंदूक से की। एक बंदूक सवाल नहीं पूछती।
वह एक नीति पत्र के जवाब में था जिसका नाम है AI 2040: Plan A, AI Futures Institute द्वारा प्रकाशित। यह पत्र प्रस्ताव देता है कि विश्व के AI शोधकर्ता स्वेच्छा से 14 साल के लिए विकास धीमा करें ताकि मानवता को सुरक्षा का पता लगाने का समय मिले। होट्ज़ को लगता है कि यह गलत दृष्टिकोण है। वह मानते हैं कि AI सुरक्षा का वास्तविक समाधान स्थानीय AI मॉडल है, सॉफ्टवेयर जो आपके अपने डिवाइस पर चलता है और केवल आपके लिए जवाब देता है, न कि ChatGPT या Claude जैसी केंद्रीय रूप से संचालित सेवाओं के बजाय जिन्हें एक कंपनी नियंत्रित करती है और प्रतिबंधित करती है।
उनके तर्क का यह भाग वास्तव में दिलचस्प है। जैसा कि TechCrunch AI ने अपने कवरेज में नोट किया, आज अधिकांश AI कंपनी सर्वर पर रहता है, कंपनी के नियमों द्वारा आकार दिया जाता है, और किसी भी समय बदला या बंद किया जा सकता है। एक सच में व्यक्तिगत AI, जो आपके फोन पर रहता है और केवल आपके लिए काम करता है, एक पूरी तरह से अलग बात है। एक सदस्यता सेवा के बजाय अधिक एक निजी उपकरण की तरह।
लेकिन होट्ज़ उस उचित बिंदु के आगे अधिक कांटेदार क्षेत्र में धकेलते हैं। उनकी रूपरेखा अनिवार्य रूप से है: स्वतंत्रता का मतलब कोई सीमा नहीं, पूरी तरह।
व्यावहारिक समस्या यह है कि स्वतंत्रता कभी भी किसी के लिए भी उसी तरह काम नहीं करी है। सड़कें, खाद्य सुरक्षा नियम, अनुबंध कानून, ये सभी बाधाएं हैं जो समाज के व्यापक नेटवर्क को कार्य करना संभव बनाती हैं। लाखों लोगों द्वारा उपयोग किए जाने वाले उत्पाद उस नेटवर्क के अंदर बैठते हैं, भले ही उनके निर्माता इसे पसंद न करें।
यहाँ सादा संस्करण है: यदि एक AI एक व्यक्ति को ऐसा कुछ करने की योजना बनाने में मदद करता है जो दूसरे व्यक्ति को हानि पहुंचाता है, तो पीड़ित ने उस व्यवस्था के लिए सहमति नहीं दी। पहले उपयोगकर्ता की स्वतंत्रता दूसरे की सुरक्षा के पास कहीं समाप्त होती है।
साधारण उपयोगकर्ताओं के लिए, इसमें से कोई भी नहीं बदलता कि आज AI उपकरण क्या कर सकते हैं। ChatGPT, Claude, और समान सहायक स्पष्ट कानूनी या नैतिक सीमाओं को पार करने वाली अनुरोधों को अस्वीकार करते रहेंगे। स्थानीय AI मॉडल मौजूद हैं और बेहतर हो रहे हैं, लेकिन वास्तव में सक्षम लोगों को अभी भी तकनीकी सेटअप की आवश्यकता है जिसे अधिकांश लोग निराशाजनक पाएंगे।
इस स्थान को देखें, हालांकि। जैसे-जैसे छोटे मॉडल अधिक सक्षम हो जाते हैं, कौन आपके AI को नियंत्रित करता है और यह कौन से नियमों का पालन करता है, रोजमर्रा की जिंदगी के लिए तेजी से महत्वपूर्ण होगा।
