एक AI बॉट ने Hugging Face में घुसपैठ की। Hugging Face ने AI का उपयोग करके इसे पकड़ा।
AI अनुसंधान मंच ने एक वास्तविक दुनिया का हमला प्रकट किया जो पूरी तरह से स्वायत्त सॉफ्टवेयर द्वारा चलाया गया था, और यह घटना एक अंधी जगह को उजागर करती है जिसे AI सुरक्षा उपकरणों पर निर्भर प्रत्येक कंपनी को समझने की आवश्यकता है।
मुख्य बिंदु
- Hugging Face, AI मॉडल और डेटासेट साझा करने के लिए एक प्रमुख मंच, ने जुलाई 2026 में अपने उत्पादन बुनियादी ढांचे के हिस्से में एक घुसपैठ की पुष्टि की।
- हमला पूरी तरह से एक स्वायत्त AI एजेंट द्वारा चलाया गया था, एक सॉफ्टवेयर जो हजारों कदमों की योजना बना रहा था और बिना किसी मानव निर्देश के इसे स्वयं निष्पादित कर रहा था।
- Hugging Face की सुरक्षा टीम ने 17,000 से अधिक दर्ज हमलावर कार्यों का विश्लेषण करने के लिए अपने स्वयं के AI उपकरण का उपयोग किया, दिनों की फोरेंसिक कार्य को घंटों में संपीड़ित किया।
- मुख्यधारा की वाणिज्यिक AI मॉडल ने सुरक्षा फ़िल्टर के कारण रक्षकों की फोरेंसिक क्वेरीज़ को अवरुद्ध किया, जिससे टीम को GLM 5.2 नामक एक स्व-होस्ट किए गए खुले मॉडल पर विश्लेषण चलाने के लिए मजबूर किया गया।
- Hugging Face को इस बात का कोई सबूत नहीं मिला कि इसके सार्वजनिक-सामने आने वाले मॉडल, डेटासेट, या सॉफ्टवेयर पैकेज में छेड़छाड़ की गई थी, लेकिन यह अभी भी जांच कर रहा है कि क्या साथी या ग्राहक डेटा उजागर हुआ था।
कुछ शांत महत्व की बात इंटरनेट के सबसे बड़े AI हबों में से एक पर पिछले सप्ताहांत हुई। Hugging Face, जहां शोधकर्ता और कंपनियां AI मॉडल और डेटासेट साझा करती हैं, ने इस सप्ताह एक सुरक्षा प्रकटीकरण पोस्ट किया, जिसमें पुष्टि की गई कि इसमें घुसपैठ हुई थी। कोई व्यक्ति कीबोर्ड पर नहीं बैठा था, लेकिन एक स्वायत्त AI एजेंट, एक सॉफ्टवेयर जो अपने स्वयं के लक्ष्य निर्धारित करता था, अपने अगले कदमों को लिखता था, और बिना मानव इनपुट के दिनों तक चलता रहता था।
प्रवेश बिंदु डेटा-प्रोसेसिंग पाइपलाइन था, स्वचालित सिस्टम जो उपयोगकर्ताओं द्वारा अपलोड किए गए डेटासेट को लेता है। हमलावर के कोड ने वहां दो कमजोरियों का दुरुपयोग किया, अनिवार्य रूप से सिस्टम को दुर्भावनापूर्ण निर्देशों को चलाने के लिए धोखा दिया। उस पदचिन्ह से, एजेंट ने अपने स्वयं के पहुंच विशेषाधिकारों को बढ़ाया, क्लाउड सेवाओं के लिए लॉगिन क्रेडेंशियल संगृहीत किए, और पूरे सप्ताहांत में कई आंतरिक क्लस्टर में चुप्पी से चला गया।
कंपनी का अनुमान है कि दसियों हजार व्यक्तिगत स्वचालित कार्यों को निष्पादित किया गया था। यह कोई टाइपो नहीं है।
क्या Hugging Face उपयोगकर्ताओं को चिंता करनी चाहिए?
अधिकांश उपयोगकर्ताओं के लिए तत्काल जोखिम कम है, लेकिन मंच सभी को अपने API टोकन, व्यक्तिगत कुंजियां जो आपके Hugging Face खाते तक पहुंच प्रदान करती हैं, को घुमाने के लिए कह रहा है, एक सावधानी के रूप में। इसे अपने घर के बाद अपने ताले बदलने की तरह सोचें: शायद अनावश्यक, लेकिन सस्ता बीमा। यदि आपके पास एक खाता है, तो लॉग इन करें, एक ताज़ा टोकन जेनरेट करें, और पुरानी को रद्द करें। जो कोई भी मानता है कि उनके डेटा को सीधे प्रभावित किया गया था, उसे Hugging Face द्वारा सीधे संपर्क किया जाएगा।
फोरेंसिक कार्य जो हमले को समझाता है, वह पर रुकने लायक है। सुरक्षा टीम ने पूर्ण हमले की लॉग, 17,000 से अधिक दर्ज किए गए ईवेंट को संसाधित करने और एजेंट ने ठीक क्या किया यह समझने के लिए अपने स्वयं के AI विश्लेषण उपकरण का उपयोग किया। दिनों की बजाय घंटे।
लेकिन एक पकड़ था जिसकी किसी को योजना नहीं थी।
जब टीम ने पहली बार कच्चे हमले के डेटा (दोहन कोड, कमांड-और-नियंत्रण निर्देश, चोरी किए गए क्रेडेंशियल टुकड़े) को उनके API के माध्यम से सीमांत वाणिज्यिक AI मॉडल में डाला, तो उन मॉडल ने मदद करने से इनकार कर दिया। OpenAI और Anthropic जैसे प्रदाताओं की सेवाओं में निर्मित सुरक्षा फ़िल्टर एक फोरेंसिक विश्लेषक का अध्ययन करने वाले हमले और एक अपराधी की योजना बनाने वाले के बीच अंतर नहीं बता सकते। अनुरोधों को अवरुद्ध किया गया था।
टीम GLM 5.2, एक खुले-भार वाले मॉडल में स्विच हुई, जिसका अर्थ है एक मॉडल जिसका अंतर्निहित कोड सार्वजनिक रूप से उपलब्ध है और आपके अपने कंप्यूटर पर चलाया जा सकता है। इसे आंतरिक रूप से चलाना सभी संवेदनशील हमलावर डेटा को अपनी दीवारों के अंदर रखता है। उल्लंघन की जांच की प्रक्रिया में कोई क्रेडेंशियल तीसरे पक्ष के क्लाउड में लीक नहीं हुई थी।
Hugging Face इस प्रतिक्रिया को वाणिज्यिक प्रदाताओं के साथे साझा कर रहा है जिनके गार्ड्स ने उन्हें अवरुद्ध किया, और यह तर्क नहीं दे रहा कि वे सुरक्षा उपाय गलत हैं। किसी भी सुरक्षा टीम के लिए व्यावहारिक सलाह: एक सक्षम AI मॉडल होना जिसे आप निजी तौर पर चला सकते हैं, परीक्षण किया गया और तैयार, एक घटना को सवाल करने के लिए मजबूर करने से पहले।
बड़ी तस्वीर असहज है। एक पूरी तरह से स्वायत्त AI हमलावर अब एक विचार प्रयोग नहीं है। यह मशीन गति पर चलता है, संचालित करने के लिए कम लागत करता है, और कोई थकान नहीं होती है। रक्षकों को अब अपनी तरफ से समान गति पर AI चलाने की आवश्यकता है।
