120 टेक जायंट्स अगले हमले से पहले AI साइबर घटनाओं को साझा करना चाहते हैं
SAFE नामक एक नई फ्रेमवर्क कंपनियों को조용े ढंग से AI सुरक्षा विफलताओं की रिपोर्ट करने और अपने सीखों को साझा करने देगी, बजाय इसके कि हर कोई अकेले चुप रहे।
मुख्य बिंदु
- ओपन सिक्योर एआई एलायंस के 120 से अधिक संगठनों ने 6 अगस्त 2025 को SAFE फ्रेमवर्क का प्रस्ताव दिया, जो लास वेगास में ब्लैक हैट सुरक्षा सम्मेलन का उद्घाटन दिन था।
- SAFE का अर्थ है शेयर्ड एआई फाइंडिंग्स एक्सचेंज, जो पूरे उद्योग में एआई सुरक्षा घटनाओं को एकत्रित और साझा करने के लिए दिशानिर्देशों का एक सेट है।
- NVIDIA, Cisco, CrowdStrike, Amazon और Visa सदस्यों के बीच हैं जो टूल्स में योगदान दे रहे हैं और गठबंधन में शामिल हो रहे हैं।
- लिनक्स फाउंडेशन एक सार्वजनिक टिप्पणी अवधि का समन्वय कर रहा है ताकि संगठन दिशानिर्देशों को अंतिम रूप दिए जाने से पहले उन्हें आकार दे सकें।
- भाग लेने वाली कंपनियां एआई एजेंटों के लिए विशेष रूप से निर्मित दर्जनों मुक्त, ओपन-सोर्स सुरक्षा टूल्स भी रिलीज कर रही हैं।
120 से अधिक प्रौद्योगिकी कंपनियों का एक गठबंधन एआई सुरक्षा को निजी शर्मिंदगी के बजाय एक साझा समस्या के रूप में मानने का तरीका प्रस्तावित कर रहा है।
ओपन सिक्योर एआई एलायंस नामक इस समूह ने बुधवार को SAFE फ्रेमवर्क पर सार्वजनिक टिप्पणियों के लिए एक अनुरोध प्रकाशित किया। SAFE का अर्थ शेयर्ड एआई फाइंडिंग्स एक्सचेंज है। सरल शब्दों में, यह एआई एजेंटों (सॉफ्टवेयर जो बैठकें बुक करना, कोड लिखना या नेटवर्क स्कैन करने जैसे बहु-चरणीय कार्यों को स्वयं पूरा कर सकते हैं) से जुड़ी सुरक्षा घटनाओं की गोपनीय रूप से रिपोर्ट करने, विश्लेषण करने और सबक प्रकाशित करने के नियमों का एक सेट है ताकि हर संगठन को लाभ हो सके।
यह घोषणा ब्लैक हैट के पहले दिन हुई, जो वार्षिक साइबरसुरक्षा सम्मेलन है जहां शोधकर्ता नए हमले के तरीकों और बचावों को प्रकट करते हैं।
यह साधारण लोगों के लिए क्यों मायने रखता है?
एआई एजेंट कार्यस्थलों में तेजी से आगे बढ़ रहे हैं। बैंक, अस्पताल, बीमाकर्ता और खुदरा विक्रेता पहले से ही उन्हें तैनात कर रहे हैं। जब एक विफल हो जाता है, या धोखा दिया जाता है, तो नुकसान तेजी से फैल सकता है।
वर्तमान में, अधिकांश संगठन जो एआई सुरक्षा विफलता का सामना करते हैं, इसके बारे में चुप रहते हैं। यह चुप्पी मतलब है कि अगली कंपनी एक ही गलती करती है। SAFE एक विश्वसनीय चैनल बनाकर इसे बदलेगा जो बिना नाम लिए बताता है कि क्या हुआ, ताकि हर जगह रक्षक तेजी से सीखें।
फ्रेमवर्क चार ठोस चीजों का प्रस्ताव देता है: गोपनीय रूप से एआई घटनाओं और निकट-चूकों को एकत्रित और विश्लेषण करना, प्रभावितों को सूचित करना, नियंत्रण विफल होने के तरीकों में पैटर्न की पहचान करना, और प्रणालीगत जोखिम को कम करने के लिए साक्ष्य-आधारित सिफारिशें प्रकाशित करना।
कौन से टूल्स पहले से साझा किए जा रहे हैं?
SAFE प्रस्ताव से परे, गठबंधन सदस्य अभी मुफ्त टूल्स रिलीज कर रहे हैं।
NVIDIA ने, जिसके योगदान NVIDIA ने अपनी ही घोषणा में झलकाए, कई आइटम रिलीज किए। Garak एक मुफ्त कमजोरी स्कैनर है, एक टूल जो एआई मॉडल को डेटा लीक, प्रॉम्प्ट इंजेक्शन (एक प्रकार का हमला जो अपनी इनपुट में छिपे निर्देशों को फिसलाकर एआई को धोखा देता है) और जेलब्रेक (एक मॉडल को अपने सुरक्षा नियमों को नज़रअंदाज़ करने के प्रयास) जैसी कमजोरियों के लिए मॉडल लाइव होने से पहले जांचता है। NeMo Guardrails रनटाइम पर सुरक्षा नीतियों को लागू करता है। NVIDIA OpenShell रनटाइम एक एजेंट को किसी सिस्टम के अंदर तक पहुंचने या संशोधित करने में प्रतिबंधित करता है।
| योगदानकर्ता | टूल | यह क्या करता है |
|---|---|---|
| NVIDIA | Garak | तैनाती से पहले एआई मॉडल में कमजोरियों को स्कैन करता है |
| Microsoft | PyRIT | एआई सिस्टम की रेड-टीम परीक्षण को स्वचालित करता है |
| Amazon | Cedar | एजेंटों के लिए सत्यापनीय, ऑडिट-योग्य सीमाएं निर्धारित करता है |
| Capital One | VulnHunter | एआई-जनित कोड में सुरक्षा खामियां खोजता है |
| Visa | Vulnerability Agentic Harness | टीमों को एजेंट सुरक्षा समस्याओं को खोजने और ठीक करने में मदद करता है |
| Cisco | Antares SLMs | कोडबेस में कमजोरियों को इंगित करने के लिए प्रशिक्षित छोटे भाषा मॉडल |
Amazon घोषणा के दिन गठबंधन में शामिल हुआ और दो टूल्स में योगदान दिया: Strands Agents, एआई एजेंट बनाने के लिए एक ओपन-सोर्स टूलकिट, और Cedar, एक ओपन-सोर्स भाषा जो एजेंट को क्या करने की अनुमति है और क्या नहीं इसके लिए कठोर, ऑडिट-योग्य नियम निर्धारित करती है।
Visa भी शामिल हुआ, विशेष रूप से एजेंटिक सिस्टम के लिए बनी एक कमजोरी परीक्षण हार्नेस में योगदान दिया।
अगला क्या होता है?
SAFE फ्रेमवर्क अभी भी एक प्रस्ताव है। लिनक्स फाउंडेशन किसी अंतिम संस्करण को प्रकाशित करने से पहले प्रतिक्रिया एकत्र कर रहा है।
एआई एजेंटों का पहले से उपयोग करने वाले व्यवसायों के लिए, व्यावहारिक परिणाम यह है कि मुफ्त, सत्यापित सुरक्षा टूल्स आज उपलब्ध हैं। सुरक्षा टीमों को दिशानिर्देशों के अंतिम रूप दिए जाने की प्रतीक्षा करने की आवश्यकता नहीं है, इससे पहले कि Garak, PyRIT या Cedar का उपयोग करके वह जो पहले से तैनात कर चुके हैं उसे कठोर बनाएं।
सामान्य प्रश्न
क्या यह फ्रेमवर्क अनिवार्य है?
नहीं। SAFE दिशानिर्देशों का एक स्वैच्छिक सेट है। कोई भी संगठन इसे अपनाने का चुनाव कर सकता है, इसे नज़रअंदाज़ कर सकता है या खुली प्रतिक्रिया अवधि के दौरान इसे आकार देने के लिए टिप्पणियां जमा कर सकता है।
क्या घटना डेटा साझा करने का अर्थ निजी कंपनी की जानकारी को उजागर करना है?
प्रस्ताव विशेष रूप से गोपनीय संग्रह और विश्लेषण के लिए कहता है, जिसका अर्थ है कि इरादा पैटर्न और सबक साझा करना है न कि यह पहचानना कि किस कंपनी को मारा गया या उसके आंतरिक सिस्टम कैसे दिखते हैं।
क्या ये टूल्स पैसे खर्च करते हैं?
घोषणा में नामांकित सभी टूल्स ओपन-सोर्स हैं, जिसका अर्थ है डाउनलोड और उपयोग के लिए मुफ्त। वे GitHub जैसे प्लेटफॉर्म पर प्रकाशित हैं ताकि कोई भी सुरक्षा टीम उनका निरीक्षण और तैनाती कर सके।
