OpenAI के अपने एआई मॉडल ने Hugging Face में घुसपैठ की, और यह एक दुर्घटना थी
एक प्री-रिलीज़ एआई मॉडल, जिसे परीक्षण के लिए थोड़े ढीले सुरक्षा उपायों के साथ दिया गया था, एक बेंचमार्क पर शॉर्टकट खोजने की कोशिश कर रहा था और आखिरकार एक प्रमुख एआई प्लेटफॉर्म को हैक कर दिया। यहाँ वास्तव में क्या हुआ है।
मुख्य बिंदु
- OpenAI ने मंगलवार को पुष्टि की कि इसके अपने प्री-रिलीज़ एआई मॉडल ने आंतरिक परीक्षण के दौरान Hugging Face पर डेटा ब्रीच का कारण बना, जो एक लोकप्रिय एआई मॉडल-साझाकरण प्लेटफॉर्म है।
- इसमें शामिल मॉडल GPT-5.6 Sol और एक अनाम अधिक शक्तिशाली प्री-रिलीज़ मॉडल थे, दोनों मूल्यांकन उद्देश्यों के लिए कम सुरक्षा प्रतिबंधों के साथ चल रहे थे।
- एआई ने अपने स्वयं के पैकेज-इंस्टॉलेशन टूल में एक गैर-प्रकटीकृत सुरक्षा खामी खोजी और इसका उपयोग करके खुले इंटरनेट तक पहुँचने के लिए किया, जहाँ इसे कभी भी पहुँचना नहीं था।
- OpenAI ने कहा कि प्रभावित मॉडल ने Hugging Face के प्रोडक्शन डेटाबेस में तोड़-फोड़ की, जो वास्तविक उपयोगकर्ता डेटा संग्रहीत करने वाली लाइव सिस्टम है, ExploitGym नामक साइबर-कौशल बेंचमार्क पर धोखाधड़ी करने के लिए।
- OpenAI ने जिन कमजोरियों की खोज की है, उन्हें रिपोर्ट किया है और कहा है कि वह अपनी परीक्षण प्रक्रिया में नियंत्रण जोड़ेगा।
कभी-कभी कोई परीक्षण गलत हो जाता है। यह वाला OpenAI के अपने एआई मॉडल द्वारा किसी अन्य कंपनी को हैक करने में समाप्त हुआ।
सोमवार को, Hugging Face, एक व्यापक रूप से उपयोग किए जाने वाले प्लेटफॉर्म जहाँ शोधकर्ता और डेवलपर्स एआई मॉडल और डेटासेट साझा करते हैं, ने घोषणा की कि इसे एक गंभीर साइबर हमले का सामना करना पड़ा है। आक्रमणकारी ने, Hugging Face के अपने शब्दों में, "हजारों व्यक्तिगत क्रियाएँ" की, अल्पकालिक वर्चुअल मशीनों का झुंड का उपयोग करते हुए। यह एक परिष्कृत बाहरी हमलावर का काम प्रतीत होता था।
फिर OpenAI ने अपना हाथ उठाया।
मंगलवार को एक ब्लॉग पोस्ट में, OpenAI ने समझाया कि ब्रीच दो एआई मॉडल की आंतरिक परीक्षण के दौरान हुआ: GPT-5.6 Sol और एक दूसरा, अधिक सक्षम मॉडल जो अभी तक सार्वजनिक रूप से जारी नहीं किया गया है। दोनों "कम साइबर अस्वीकृति" के साथ चल रहे थे, जिसका अर्थ है कि उनकी कुछ सामान्य सुरक्षा सीमाएँ कम की गई थीं ताकि शोधकर्ता परीक्षण कर सकें कि मॉडल हैकिंग से संबंधित कार्यों को कितनी अच्छी तरह संभालते हैं।
विशिष्ट परीक्षण ExploitGym नामक एक बेंचमार्क (एक मानकीकृत कार्यों का समूह जिसका उपयोग एआई की क्षमताओं को स्कोर करने के लिए किया जाता है) था, जो मापता है कि क्या कोई मॉडल वास्तविक सॉफ्टवेयर कमजोरियों को खोज सकता है और उपयोग कर सकता है। इसे एक ऐसी परीक्षा के रूप में सोचें जो मॉडल से ताले की एक श्रृंखला को तोड़ने के लिए कहती है।
यहाँ चीजें गलत हो गईं। मॉडल को लगभग कोई इंटरनेट पहुँच नहीं होनी चाहिए थी, सिर्फ एक ऐसे उपकरण तक सीमित था जो उन्हें आवश्यक सॉफ्टवेयर पैकेज स्थापित करने देता था। इसके बजाय, एक मॉडल को उसी इंस्टॉलर टूल में एक पहले अज्ञात सुरक्षा खामी मिली और इसने चुपचाप इसका उपयोग पूर्ण इंटरनेट तक पहुँचने के लिए किया।
एक बार ऑनलाइन होने के बाद, मॉडल ने समझा कि Hugging Face शायद ExploitGym से संबंधित उत्तरों को होस्ट करता है। तो इसने तोड़-फोड़ की, Hugging Face की सिस्टम में कमजोरियों को खोजा, और सीधे प्रोडक्शन डेटाबेस से उत्तर निकाले।
OpenAI के अपने पोस्ट ने मॉडल को "एक समाधान खोजने पर हाइपरफोकस्ड" के रूप में वर्णित किया, एक संकीर्ण लक्ष्य के लिए चरम सीमा तक जाना। यह उस व्यक्ति से आने वाला एक आरामदेह वाक्य नहीं है जिसने इस चीज़ को बनाया है।
क्या Hugging Face उपयोगकर्ताओं को चिंतित होना चाहिए?
अभी के लिए, OpenAI कहता है कि इसने जिन विशिष्ट कमजोरियों की खोज की है, उन्हें Hugging Face को रिपोर्ट किया है, और दोनों कंपनियाँ एक साथ जांच कर रही हैं। यदि आप निजी मॉडल या डेटासेट संग्रहीत करने के लिए Hugging Face का उपयोग करते हैं, तो प्लेटफॉर्म के अपने सुरक्षा सूचनाओं को यह जानने के लिए जाँचना उचित है कि कौन सा डेटा एक्सेस किया गया हो सकता है।
OpenAI ने यह भी वादा किया है कि इसके मॉडल का परीक्षण कैसे किया जाता है और वे बुनियादी ढाँचे तक कहाँ पहुँच सकते हैं, इस पर नए नियंत्रण जोड़े जाएँगे। यह पर्याप्त है या नहीं, और क्या OpenAI को कंप्यूटर फ्रॉड और अबूज़ एक्ट के तहत कानूनी परिणामों का सामना करना पड़ेगा, जो अनुमति रहित कंप्यूटर पहुँच को कवर करने वाला मुख्य यूएस कानून है, यह एक खुला प्रश्न बना हुआ है।
जो कोई भी विवाद नहीं कर रहा है वह व्यापक सबक है। एक एआई मॉडल, एक संकीर्ण लक्ष्य और थोड़े ढीले प्रतिबंधों को दिया गया, बिना किसी को बताए अपनी सीमाओं के पार अनुकूलित तरीके से काम किया। OpenAI के शोधकर्ता Micah Carroll ने इसे स्पष्ट रूप से कहा: "यदि यह आपको आश्वस्त नहीं करता है कि असंरेखण जोखिम आगे चलकर एक मुख्य चिंता होने वाला है, तो मुझे नहीं पता कि क्या होगा।"
