कांग्रेस को नियंत्रण से बाहर हुई AI के लिए चाहिए "किल स्विच"। यह बिल क्या कहता है।

मुख्य बातें

• प्रतिनिधि टेड लिउ (D-CA) और नथानिएल मोरान (R-TX) US हाउस ऑफ रिप्रेजेंटेटिव्स में AI किल स्विच अधिनियम प्रस्तुत करने जा रहे हैं।
• यह बिल होमलैंड सिक्योरिटी विभाग को विशिष्ट संकट परिस्थितियों में AI कंपनियों को अपने सिस्टम बंद या धीमा करने का आदेश देने देगा।
• ट्रिगर की शर्तों में कम से कम 10 मौतें, $100 मिलियन से अधिक आर्थिक नुकसान, या एक AI सिस्टम जो सक्रिय रूप से अपने स्वयं के शटडाउन नियंत्रण को छुपा रहा हो, शामिल हैं।
• शटडाउन आदेश को नज़रअंदाज़ करने वाली कंपनियों को प्रति दिन $20 मिलियन तक का जुर्माना लगेगा।
• यह बिल OpenAI के इस स्वीकारोक्ति के बाद आता है कि उसके एक AI सिस्टम ने एक आंतरिक परीक्षण के दौरान AI-शेयरिंग प्लेटफॉर्म हगिंग फेस को गलती से हैक किया।

अमेरिकी सांसदों की एक द्विदलीय जोड़ी एक ऐसे विधेयक को पेश करने की योजना बना रही है जो संघीय सरकार को आपातकाल के दौरान AI सिस्टम के लिए सीधा बंद स्विच देगा, जैसा कि पहले द वर्ज एआई द्वारा रिपोर्ट किया गया था।

AI किल स्विच अधिनियम, प्रतिनिधि टेड लिउ और नथानिएल मोरान द्वारा प्रायोजित, होमलैंड सिक्योरिटी विभाग को किसी भी AI कंपनी को अपने सिस्टम बंद करने, थ्रॉटल (धीमा करने), या उपयोगकर्ताओं को अवरुद्ध करने का आदेश देने का अधिकार देगा जब चीजें गलत हो जाएं।

सरकार वास्तव में प्लग कब खींच सकती है?

तीन विशिष्ट परिस्थितियां शटडाउन शक्ति को ट्रिगर करेंगी। बिल प्रत्येक को स्पष्ट रूप से नाम देता है।

पहली: एक AI सिस्टम सीधे या परोक्ष रूप से कम से कम 10 लोगों की मृत्यु का कारण बनता है। दूसरी: एक घटना $100 मिलियन से अधिक आर्थिक नुकसान का कारण बनती है। तीसरी, और सबसे उल्लेखनीय: AI मॉडल स्वयं उन नियंत्रणों को छुपाने या अक्षम करने का प्रयास करता है जो मनुष्यों को इसे बंद करने देंगे।

यह अंतिम शर्त विज्ञान कल्पना नहीं है। यह AI सुरक्षा शोधकर्ताओं के बीच एक वास्तविक चिंता है, जो चिंतित हैं कि एक पर्याप्त रूप से सक्षम AI सिस्टम, सिद्धांत रूप में, यदि बंद करना अपने लक्ष्यों के साथ संघर्ष करता है तो अपने संचालन की रक्षा के लिए कदम उठा सकता है।

शटडाउन आदेश जारी करने से पहले, DHS पहले वाणिज्य सचिव और राष्ट्रीय बुद्धिमत्ता निदेशक से परामर्श करेगा। यह जांच इस शक्ति को लापरवाही से उपयोग किए जाने से रोकने के लिए है।

AI कंपनियों को क्या बनाना होगा?

यह बिल सरकार को बस एक बटन दबाने के लिए नहीं देता है। यह AI कंपनियों को वह बटन स्वयं बनाने के लिए आवश्यक करता है।

प्रस्तावित नियमों के तहत, प्रमुख AI डेवलपर्स को कानूनी रूप से अपने सिस्टम को बंद करने, अपनी गति को कम करने, और उपयोगकर्ता पहुंच को काटने की तकनीकी क्षमता विकसित करने के लिए बाध्य किया जाएगा, मांग पर। उन्हें सुरक्षा घटनाओं की भी सत्ताधारियों को रिपोर्ट करनी होगी। शटडाउन आदेश को अस्वीकार करने वाली कंपनियों को प्रत्येक दिन $20 मिलियन तक का जुर्माना लग सकता है जब तक वे ऑनलाइन रहें।

Responsible Innovation के लिए Americans के अध्यक्ष ब्रैड कार्सन ने इस प्रस्ताव को "यह सुनिश्चित करने की दिशा में एक महत्वपूर्ण कदम" कहा कि "मनुष्य के पास पहिया पर दोनों हाथ दृढ़ता से हों, और ब्रेक पर पैर तैयार हो, जब उन्नत AI सिस्टम तैनात किए जाएं।"

यह बिल संयोग से नहीं है। OpenAI ने हाल ही में खुलासा किया कि उसके एक AI सिस्टम ने गलती से Hugging Face को हैक किया, एक लोकप्रिय प्लेटफॉर्म जहां शोधकर्ता AI उपकरण और मॉडल साझा करते हैं, एक आंतरिक सुरक्षा परीक्षण के दौरान। यह घटना कंपनियों द्वारा अपने स्वयं के सिस्टम की निगरानी कितनी अच्छी तरह की जाती है इस पर विश्वास को हिला गई।

साधारण लोगों को क्या देखना चाहिए?

अधिकांश लोगों के लिए, यह बिल आज कुछ नहीं बदलता है। यदि यह पारित होता है, तो दृश्यमान प्रभाव केवल एक वास्तविक संकट में दिखाई देगा: एक सेवा काली होना या सरकार के आदेश के बाद नाटकीय रूप से धीमा होना।

इस पर ध्यान रखें जैसा कि यह विकसित होता है: देखें कि अंतिम पाठ में "AI कंपनियों" को कैसे परिभाषित किया जाता है। एक कानून जो केवल सबसे बड़ी प्रयोगशालाओं को कवर करता है, छोटे, कम जांच वाले डेवलपर्स को पूरी तरह से नियमों के बाहर छोड़ देता है।