Google DeepMind के प्रमुख चाहते हैं कि AI को शिप करने से पहले U.S. सरकार समर्थित निकाय द्वारा जांच की जाए
नोबेल पुरस्कार विजेता डेमिस हसबिस, गूगल की AI लैब के प्रमुख, वॉल स्ट्रीट नियामक पर आधारित एक नया निरीक्षण निकाय बनाने की माँग कर रहे हैं। उद्योग को खर्च देना होगा, लेकिन वाशिंगटन नियम बनाएगा।
मुख्य बिंदु
- Google DeepMind के CEO डेमिस हसबिस ने मंगलवार को एक प्रस्ताव प्रकाशित किया जिसमें सार्वजनिक रिलीज़ से पहले AI मॉडल की समीक्षा के लिए एक U.S.-नेतृत्व वाली, संघीय पर्यवेक्षण वाली संस्था की माँग की गई है।
- हसबिस ने चेतावनी दी कि सीमावर्ती AI मॉडल, जो आज की सबसे शक्तिशाली प्रणाली हैं, पहले से ही साइबर सुरक्षा जोखिम पैदा करते हैं और शीघ्र ही परमाणु या जैविक खतरे पैदा कर सकते हैं।
- प्रस्तावित निकाय को AI कंपनियों से लॉन्च से 30 दिन पहले नए मॉडल की समीक्षा के लिए जमा करने की आवश्यकता होगी, पहले स्वेच्छा से, फिर अनिवार्य रूप से।
- Anthropic के CEO डेरियो अमोडेई और OpenAI के CEO सैम ऑल्टमैन ने हाल ही के सप्ताहों में एक समान AI निरीक्षण निकाय के लिए आह्वान किया है।
- निरीक्षण निकाय के लिए फंडिंग "संभवतः" AI उद्योग से आएगी, हसबिस ने कहा।
डेमिस हसबिस, Google DeepMind के CEO और 2024 के रसायन विज्ञान में नोबेल पुरस्कार विजेता, इस सप्ताह एक नई अमेरिकी संस्था के लिए एक विस्तृत प्रस्ताव प्रकाशित करते हैं: एक मानक निकाय, अनिवार्य रूप से एक निरीक्षण एजेंसी, जो शक्तिशाली AI मॉडल का परीक्षण और अनुमोदन करेगी सार्वजनिक होने से पहले।
इसे AI सॉफ़्टवेयर के लिए खाद्य और औषधि प्रशासन के रूप में सोचें।
हसबिस ने कहा कि निकाय को FINRA, वित्तीय उद्योग नियामक प्राधिकरण पर आधारित किया जाना चाहिए, जो संगठन है जो संयुक्त राज्य में स्टॉक दलालों और ब्रोकरेज फर्मों को लाइसेंस और पुलिस करता है। FINRA संघीय पर्यवेक्षण में है लेकिन सार्वजनिक-निजी साझेदारी के रूप में चलाया जाता है, जिसका अर्थ है कि सरकार और उद्योग दोनों मेज पर साझा भूमिका निभाते हैं।
हसबिस को यह अभी क्यों चाहिए: वह मानते हैं कि दांव तेजी से बढ़ रहे हैं। "हम पहले से ही सीमावर्ती मॉडल के कारण साइबर सुरक्षा के लिए चुनौतियाँ देख रहे हैं, और परमाणु और जैविक जोखिम सहित अन्य खतरे शीघ्र ही सामने आ सकते हैं," उन्होंने लिखा।
उनका प्रस्ताव कहता है कि AI कंपनियां स्वेच्छा से लॉन्च से 30 दिन पहले समीक्षा के लिए निकाय को नए मॉडल जमा करेंगी। एक बार निकाय यह साबित कर देता है कि यह काम करता है, वह जमा U.S. बाजार में बेचे जाने वाले किसी भी मॉडल के लिए अनिवार्य हो जाएगा।
परीक्षण यह देखेगा कि क्या एक मॉडल को अपने स्वयं के सुरक्षा नियमों को बायपास करने के लिए धोखा दिया जा सकता है, क्या यह धोखे के संकेत दिखाता है, और क्या इसके आउटपुट को AI स्रोत पर वापस ट्रेस किया जा सकता है। यह अंतिम बिंदु साधारण उपयोगकर्ताओं के लिए महत्वपूर्ण है: यह है कि आपका बैंक, आपके डॉक्टर का कार्यालय, या आपके नियोक्ता कैसे एक दिन यह सत्यापित करेंगे कि कोई दस्तावेज़ किसी व्यक्ति द्वारा लिखा गया था या सॉफ़्टवेयर द्वारा उत्पन्न किया गया था।
पैसा स्पष्ट सवाल है। हसबिस ने कहा कि निकाय को शीर्ष तकनीकी कर्मचारियों को नियुक्त करने और बड़े पैमाने पर परीक्षण के लिए आवश्यक कंप्यूटिंग बुनियादी ढांचे को चलाने के लिए "पर्याप्त" फंडिंग की आवश्यकता होगी। वह उम्मीद करते हैं कि AI उद्योग इसके अधिकांश के लिए भुगतान करेगा।
यह एक अकेली आवाज़ नहीं है। जैसा कि CNBC Tech द्वारा पहले रिपोर्ट किया गया था, हसबिस और Anthropic के CEO डेरियो अमोडेई ने एक G7 बैठक में यह विचार उठाया था जिसमें राष्ट्रपति डोनाल्ड ट्रम्प भी शामिल थे। OpenAI के CEO सैम ऑल्टमैन ने इस महीने की शुरुआत में फाइनेंशियल टाइम्स में एक समान तर्क प्रकाशित किया।
फिर भी राजनीतिक मार्ग दुरूह है। ट्रम्प प्रशासन ने हाल ही में एक उन्नत Anthropic मॉडल पर अस्थायी निर्यात प्रतिबंध लगाए, फिर OpenAI को एक नए मॉडल के रोलआउट को धीमा करने के लिए कहा। हसबिस अनिवार्य रूप से उसी सरकार से पूछ रहे हैं जो पहले से ही AI को प्रतिबंधित कर रही है, अब इसके चारों ओर एक औपचारिक, फंडेड, कर्मचारी संस्था बनाने के लिए।
इसका मतलब उन लोगों के लिए क्या है जो काम में AI का उपयोग करते हैं?
यदि यह निकाय कभी बनाया जाता है, तो आप कार्य सॉफ़्टवेयर या उपभोक्ता ऐप्स के माध्यम से जो मॉडल का उपयोग करते हैं, उन्हें लॉन्च से पहले सुरक्षा समीक्षा पास करनी होगी। इसका मतलब थोड़ा धीमा रिलीज़ शेड्यूल हो सकता है, लेकिन इसका मतलब यह भी है कि आंखों का एक स्वतंत्र सेट जांचता है कि क्या उपकरण को खतरनाक आउटपुट में हेराफेरी की जा सकती है। अधिकांश उपयोगकर्ताओं के लिए, व्यावहारिक प्रभाव अदृश्य होगा, जब तक यह चुपचाप एक AI उत्पाद से जुड़ी अगली बड़ी सुरक्षा घटना को रोक नहीं देता।
U.S.-चीन आयाम दबाव जोड़ता है। DeepSeek जैसी कंपनियों के चीनी AI मॉडल अमेरिकी व्यवसायों के बीच ग्राहक जीत रहे हैं, आंशिक रूप से लागत पर। U.S. विधायक अब उनके अनुकूलन पर प्रतिबंध पर विचार कर रहे हैं। एक घरेलू मानक निकाय लगभग निश्चित रूप से U.S. बाजार में बेचे जाने वाले विदेशी मॉडल पर भी लागू होगा।
ईमानदार दृष्टिकोण: एक AI निरीक्षक अभी तक कानून नहीं है, और यह प्रस्ताव वास्तविक राजनीतिक बाधाओं का सामना करता है। देखें कि क्या कांग्रेस इसे उठाती है, न कि क्या टेक CEO इसे समर्थन देते रहते हैं।
