गूगल डीपमाइंड के अंदर का दार्शनिक जो पूछता है: एआई असल में क्या है?
इयासन गेब्रियल सात साल से गूगल में कृत्रिम बुद्धिमत्ता को समझने और समाज पर इसके संभावित असर के बारे में सोचते रहे हैं। जैसे-जैसे व्यावसायिक दबाव बढ़ रहा है, उनका काम और मुश्किल हो रहा है।
मुख्य बिंदु
- इयासन गेब्रियल 2017 में गूगल में शामिल हुए, जिससे वे किसी भी प्रमुख तकनीक कंपनी में सबसे लंबे समय तक सेवारत एआई नैतिकतावादी बन गए।
- गेब्रियल गूगल डीपमाइंड में काम करते हैं, जो विश्व के सबसे उन्नत एआई सिस्टम बनाने वाला अनुसंधान विभाग है।
- व्यावसायिक दबाव और अमेरिका तथा चीन के बीच एआई वर्चस्व की दौड़ नैतिक समीक्षा को आसान नहीं, बल्कि कठिन बना रहे हैं।
- उनके काम का केंद्रीय प्रश्न यह है कि अभी तक कोई भी पूरी तरह नहीं समझता कि बड़ी भाषा मॉडल, चैटजीपीटी और जेमिनी जैसे चैटबॉट के पीछे की तकनीक, असल में क्या है।
इयासन गेब्रियल एक दार्शनिक हैं। वह पृथ्वी के सबसे शक्तिशाली एआई प्रयोगशालाओं में से एक के अंदर काम करते हैं, और उनका काम, मोटे तौर पर, एक उत्पाद बाजार में आने के बाद नहीं बल्कि पहले असहज सवाल उठाना है।
वह 2017 में गूगल में शामिल हुए, जब "एआई नैतिकता" का वाक्यांश अभी भी शैक्षणिक लगता था। सात साल बाद, दांव बिल्कुल अलग दिख रहे हैं।
गेब्रियल गूगल डीपमाइंड के भीतर काम करते हैं, लंदन में स्थित शोध विभाग जिसे गूगल ने 2023 में अपनी दो मुख्य एआई अनुसंधान टीमों को मिलाकर बनाया था। डीपमाइंड ने अल्फाफोल्ड बनाया, वह सिस्टम जिसने लगभग हर ज्ञात प्रोटीन की संरचना को समझ लिया। यह जेमिनी पर भी काम करता है, गूगल की बड़ी भाषा मॉडल की श्रृंखला, एआई का वही प्रकार जो संवादात्मक चैटबॉट को शक्ति देता है।
एक एआई नैतिकतावादी वास्तव में क्या बदलाव लाता है?
ईमानदारी से कहें तो, यह विवादास्पद है। गेब्रियल का काम नुकसान का अनुमान लगाने से पहले उसे रोकना है: यह सोचना कि एक सिस्टम का दुरुपयोग कैसे हो सकता है, किसे नुकसान हो सकता है, किन मूल्यों को दर्शाना चाहिए। लेकिन नुकसान का अनुमान लगाना और उसे रोकना दोनों अलग-अलग चीजें हैं।
दबाव वास्तविक है। अमेरिका और चीन की सरकारें एआई को एक रणनीतिक संपत्ति मानती हैं, विकास में अरबों डॉलर डाल रही हैं और तेजी के लिए आग्रह कर रही हैं। कंपनियों को निवेशक की अपेक्षाएं और प्रतिद्वंद्वियों से प्रतिस्पर्धात्मक खतरों का सामना है जो हर कुछ महीनों में नए मॉडल जारी करते हैं। उस माहौल में, एक दार्शनिक जो कहे "रुको, इस पर विचार करते हैं" एक मजबूत धारा के खिलाफ तैर रहा है।
गेब्रियल ने द गार्जियन को बताया कि एक सवाल बार-बार सामने आता है, चाहे तकनीक कितनी भी आगे बढ़ जाए। "इस बात का एक गहरा रहस्य है कि यह चीज वास्तव में क्या है?" कोई भी, इन सिस्टम बनाने वाले इंजीनियर भी, पूरी तरह नहीं समझते कि बड़ी भाषा मॉडल अपने अनुसार व्यवहार क्यों करते हैं। वे पाठ की विशाल मात्रा को संसाधित करते हैं, पैटर्न खोजते हैं, और ऐसी प्रतिक्रियाएं उत्पन्न करते हैं जो विचारशील या यहां तक कि रचनात्मक प्रतीत हो सकती हैं। लेकिन आंतरिक तंत्र, महत्वपूर्ण तरीकों से, अपारदर्शी रहता है।
नैतिकता के लिए यह अपारदर्शिता मायने रखती है। अगर आप यह समझा नहीं सकते कि एक सिस्टम ने कोई निर्णय क्यों लिया, तो जब कुछ गलत हो जाए तो किसी को जवाबदेह ठहराना बहुत मुश्किल हो जाता है।
सामान्य लोगों के लिए, व्यावहारिक निहितार्थ सरल है: जो एआई उपकरण आप काम, स्वास्थ्यसेवा या स्कूल में उपयोग करते हैं, वे ऐसी कंपनियों द्वारा बनाए गए हैं जहां गेब्रियल जैसे लोग मेज पर जगह के लिए लड़ रहे हैं। चाहे वह बहस जीतते हैं, यह इन उपकरणों को आपको क्या करने के लिए तैयार करता है।
गेब्रियल की मौजूदगी अच्छे परिणामों की गारंटी नहीं देती। लेकिन उनकी अनुपस्थिति संभवतः उन्हें और बुरा बना देती। सवाल, सात साल में, यह है कि नैतिकता एक वास्तविक ब्रेक के रूप में काम करती है या एक मशीन पर आश्वस्त सजावट के रूप में जो रोकने के लिए बहुत तेजी से आगे बढ़ रही है।
