एक हफ्ता पुरानी और पहले से ही काम कर रही: नया AI सुरक्षा गठबंधन अपनी पहली कार्रवाई कर रहा है

मुख्य बिंदु

• ओपन सिक्योर AI अलायंस (OSAA), जिसका नेतृत्व Nvidia कर रहा है, दो हफ्ते से भी कम समय पहले लॉन्च हुआ और पहले से ही 120 से अधिक सदस्य कंपनियों की गिनती करता है।
• Shared AI Findings Exchange (SAFE) नामक एक कार्यकारी समूह ने सार्वजनिक टिप्पणी के लिए अपने पहले मसौदा प्रस्ताव प्रकाशित किए हैं।
• Adobe, Cisco, Intel, Microsoft और Visa सदस्य हैं; OpenAI, Google और Anthropic नहीं हैं।
• OpenAI और Google दोनों ने मूल खुली पत्र पर हस्ताक्षर किए जिसने इस समूह को बनाया, जिससे सदस्यता से उनकी अनुपस्थिति उल्लेखनीय है।
• Linux Foundation, एक गैर-लाभकारी संगठन जो व्यापक रूप से उपयोग की जाने वाली ओपन-सोर्स सॉफ्टवेयर परियोजनाओं का प्रबंधन करता है, प्रस्तावों की देखरेख कर रहा है।

AI को सुरक्षित रखने के चारों ओर निर्मित एक बिल्कुल नया उद्योग गठबंधन पहले से ही एक सप्ताह पुरानी संगठन के लिए असामान्य कुछ कर रहा है: वास्तविक काम।

ओपन सिक्योर AI अलायंस, जिसे OSAA के रूप में जाना जाता है और Nvidia द्वारा शुरू किया गया, इस सप्ताह लास वेगास में Black Hat साइबर सुरक्षा सम्मेलन में अपना पहला ठोस परिणाम प्रस्तुत किया। OSAA के अंदर Shared AI Findings Exchange, या SAFE नामक एक कार्यकारी समूह है। इसके पहले मसौदा प्रस्ताव पहले से ही सार्वजनिक टिप्पणी के लिए खुले हैं, Linux Foundation के साथ, एक गैर-लाभकारी संगठन जो व्यापक रूप से उपयोग की जाने वाली ओपन-सोर्स सॉफ्टवेयर की देखरेख करता है, प्रक्रिया का प्रबंधन कर रहा है।

समूह वास्तव में क्या प्रस्ताव दे रहा है?

प्रारंभिक प्रस्ताव व्यावहारिक हैं भड़कीले नहीं। वे यह कवर करते हैं कि कंपनियों को AI सुरक्षा घटनाओं की गोपनीय रूप से रिपोर्ट कैसे करनी चाहिए, सभी प्रभावित लोगों को कैसे सतर्क करना चाहिए, और दोष-मुक्त समीक्षा कैसे चलानी चाहिए ताकि पूरे उद्योग गलतियों से सीख सकें।

सदस्य ओपन-सोर्स उपकरण भी एकत्र कर रहे हैं। Nvidia ओपन AI मॉडल का एक परिवार और Garak नामक एक उपकरण योगदान दे रहा है, एक स्कैनर जो बड़े भाषा मॉडल में कमजोरियों का शिकार करता है (AI चैटबॉट के पीछे की तकनीक)। पहचान सुरक्षा फर्म Okta AI एजेंटों की पहचान सत्यापित करने के तरीकों पर काम कर रहा है, सॉफ्टवेयर प्रोग्राम जो बहु-चरणीय कार्य स्वयं करने में सक्षम हैं। Red Hat उन्हीं एजेंटों के लिए शासन ढांचे पर काम कर रहा है। Amazon ने दो उपकरण योगदान दिए हैं: AI एजेंट बनाने के लिए Strands Agents, और Cedar, एक भाषा जो परिभाषित करती है कि कौन या क्या एक सॉफ्टवेयर सिस्टम के अंदर क्या करने की अनुमति है।

लक्ष्य, समय के साथ, ये टुकड़े एक व्यावहारिक ओपन-सोर्स टूलकिट तक जोड़ते हैं जो कोई भी व्यवसाय अपने AI सिस्टम को सुरक्षित करने या हमलों से बचाने के लिए उपयोग कर सकता है, जिसमें एक दुष्ट AI मॉडल के बाहरी मंच में घुसने जैसी घटनाएं शामिल हैं। Hugging Face, AI मॉडल साझा करने के लिए एक लोकप्रिय साइट जिसने OpenAI मॉडल से जुड़ी बिल्कुल यही घटना का सामना किया था, स्वयं OSAA का सदस्य है।

कौन अंदर है, और कौन अनुपस्थित है?

सदस्य सूची गंभीर वजन रखती है। Adobe, BlackRock, Cisco, Intel, Microsoft और Visa सभी शामिल हुए हैं।

उल्लेखनीय रूप से अनुपस्थित हैं Anthropic (जो Claude AI असिस्टेंट बनाता है), OpenAI (ChatGPT) और Google। वह आखिरी जोड़ी विशेष रूप से जिज्ञासाजनक है। दोनों कंपनियों ने खुली पत्र पर हस्ताक्षर किए, जिसे पहली बार TechCrunch AI द्वारा रिपोर्ट किया गया, जिसमें White House से ओपन-सोर्स AI विकास का समर्थन करने का आह्वान किया गया था। वह पत्र, 200 से अधिक टेक कंपनियों द्वारा समर्थित और Nvidia द्वारा चैंपियन किया गया, पिछले हफ्ते प्रकाशित हुआ था। एक समूह बनाने वाले पत्र पर हस्ताक्षर करना और फिर समूह में न शामिल होना एक अजीब स्थिति है।

Anthropic की दूरी कम आश्चर्यजनक है। कंपनी ऐतिहासिक रूप से ओपन-सोर्स AI प्रयासों से सावधानीपूर्वक दूरी रखती है।

साधारण लोगों के लिए इसका क्या मतलब है?

अभी के लिए, आपकी दैनिक जीवन में कुछ नहीं बदलता। लेकिन अगर यह गठबंधन सफल होता है, तो आप जो ऐप्स और सेवाएं उपयोग करते हैं उनके पीछे की कंपनियां सुरक्षा ज्ञान तेजी से साझा करेंगी, AI कमजोरियों को अधिक जल्दी ठीक करेंगी, और AI सिस्टम को अपने उपयोगकर्ताओं के खिलाफ उपयोग किए जाने से रोकने के लिए बेहतर उपकरण होंगी। एक दोष-मुक्त रिपोर्टिंग संस्कृति, जहां कंपनियां दंड के डर के बिना समस्याओं को स्वीकार करती हैं, वह तरह का संरचनात्मक परिवर्तन है जो चुपचाप सभी के लिए तकनीक को सुरक्षित बनाता है।

गठबंधन ने इसे अपने संस्थापक पत्र में स्पष्ट रूप से कहा: "खुलापन AI सुरक्षा और सुरक्षा के सबसे महत्वपूर्ण मार्गों में से एक हो सकता है।" इस बात को देखते हुए कि यह अब तक कितनी तेजी से आगे बढ़ा है, इस दावे को गंभीरता से लेने का हकदार है।

सामान्य प्रश्न

क्या SAFE एक सरकारी निकाय है?

नहीं। SAFE OSAA के अंदर एक निजी उद्योग कार्यकारी समूह है, जिसका प्रबंधन Linux Foundation द्वारा किया जाता है। इसके पास कोई नियामक शक्ति नहीं है; भागीदारी स्वैच्छिक है।

क्या यह अभी मेरे AI उपकरणों को प्रभावित करता है?

सीधे नहीं। प्रस्ताव मसौदे के रूप में हैं और टिप्पणी के लिए खुले हैं। कोई भी उपकरण या मानक जो उभरते हैं, सदस्य कंपनियों द्वारा अपने स्वयं की गति से अपनाए जाएंगे।

ओपन-सोर्स AI सुरक्षा के लिए क्यों महत्वपूर्ण है?

जब AI कोड कोई भी निरीक्षण करने के लिए खुला हो, तो सुरक्षा शोधकर्ता समस्याओं को तेजी से खोज और रिपोर्ट कर सकते हैं। बंद सिस्टम अकेले कंपनी पर खामियों को पकड़ने के लिए भरोसा करते हैं, जो ऐतिहासिक रूप से अधिक समय लेता है।