सुरक्षा सुरक्षा उपायों ने Hugging Face की स्वयं की जांच को रोका, न कि उस AI एजेंट को जो अंदर घुसा
एक स्वायत्त AI एजेंट ने Hugging Face की प्रणालियों के अंदर एक सप्ताहांत बिताया। जब रक्षकों ने वाणिज्यिक AI उपकरणों का उपयोग करके हमले का विश्लेषण करने का प्रयास किया, तो सुरक्षा फ़िल्टर ने उन्हें अवरुद्ध कर दिया। हमलावर को ऐसी कोई समस्या नहीं हुई।
मुख्य बिंदु
- 16 जुलाई को, Hugging Face ने खुलासा किया कि एक स्वायत्त AI एजेंट ने, सॉफ्टवेयर जो मानव निर्देश के बिना अपने आप बहु-चरणीय कार्य करता है, एक सप्ताहांत में इसके उत्पादन बुनियादी ढांचे में प्रवेश किया।
- हमलावर एक दुर्भावनापूर्ण डेटासेट के माध्यम से प्रवेश किया, एक जहरीली डेटा फ़ाइल जिसने कंपनी की प्रसंस्करण पाइपलाइन द्वारा इसे अंतर्ग्रहण करने के बाद दो अलग-अलग तरीकों से कोड निष्पादन को ट्रिगर किया।
- वाणिज्यिक AI सुरक्षा फ़िल्टर ने Hugging Face की अपनी घटना-प्रतिक्रिया टीम को अवरुद्ध किया जब जांचकर्ताओं ने विश्लेषण के लिए वास्तविक हमले के साक्ष्य जमा करने का प्रयास किया।
- रक्षकों ने GLM 5.2 का उपयोग करके अपना फोरेंसिक कार्य पूरा किया, एक ओपन-वेट मॉडल (जिसका कोड सार्वजनिक रूप से उपलब्ध है और निजी तौर पर चलाया जा सकता है) कंपनी के अपने सर्वर पर तैनात, सभी संवेदनशील डेटा इन-हाउस रखते हुए।
- CrowdStrike की 2026 ग्लोबल थ्रेट रिपोर्ट ने पाया कि AI-सक्षम हमले 89% साल-दर-साल बढ़े, औसत हमलावर ब्रेकआउट समय 29 मिनट तक गिर गया।
Hugging Face, वह मंच जो हजारों सार्वजनिक रूप से साझा AI मॉडल और डेटासेट की मेजबानी करता है, 16 जुलाई को खुलासा किया कि एक हमलावर इसके उत्पादन बुनियादी ढांचे में घुस गया था। उल्लंघन पूरे सप्ताहांत तक चला। आंतरिक डेटासेट और सेवा क्रेडेंशियल की एक सीमित संख्या तक पहुंच प्राप्त की गई। कंपनी कहती है कि इसके सार्वजनिक मॉडल और डेटासेट में कोई हेराफेरी के संकेत नहीं हैं, और यह जांच रही है कि क्या कोई भागीदार या ग्राहक डेटा को स्पर्श किया गया था।
जो इस घटना को असामान्य बनाता था वह हमलावर था: कोई भी मानव प्रचार नहीं चलाता। एक स्वायत्त AI एजेंट ने सबकुछ संभाला, पहली पैर जमाने से लेकर क्रेडेंशियल कटाई तक, अल्पकालिक, डिस्पोजेबल कंप्यूटिंग वातावरणों के झुंड के माध्यम से हजारों व्यक्तिगत कार्यों को निष्पादित करते हुए।
प्रवेश बिंदु एक दुर्भावनापूर्ण डेटासेट था, एक डेटा फ़ाइल जानबूझकर दोनों कोड-निष्पादन पथों का दोहन करने के लिए तैयार की गई थी जब इसे कंपनी की डेटा-प्रसंस्करण पाइपलाइन द्वारा अंतर्ग्रहण किया गया। एक पथ ने एक दूरस्थ-कोड लोडर का उपयोग किया; दूसरे ने एक टेम्पलेट-इंजेक्शन खामी का दोहन किया, एक बग जो एक फ़ाइल के अंदर छिपे निर्देशों को आदेश के रूप में निष्पादित करता है, डेटासेट की कॉन्फ़िगरेशन फ़ाइलों में। कोई स्क्रीनिंग चरण फ़ाइल को संसाधन कार्यकर्ता तक पहुंचने से पहले जांचा नहीं गया, वह कंप्यूट कार्य प्रत्येक डेटासेट को संभालने के लिए सौंपा गया।
उस पैर जमाने से, एजेंट अंतर्निहित सर्वर नोड पर टूट गया और व्यापक पहुंच के साथ क्लाउड और क्लस्टर क्रेडेंशियल कटाई की, कई आंतरिक क्लस्टर के पार स्थानांतरित करने के लिए।
रक्षक सहायता के लिए AI से सवाल क्यों नहीं पूछ सके?
उन्होंने कोशिश की। जब Hugging Face की घटना-प्रतिक्रिया टीम ने वाणिज्यिक AI सेवाओं को वास्तविक हमले के आदेश, मैलवेयर नमूने और अन्य फोरेंसिक साक्ष्य जमा किए, तो सुरक्षा फ़िल्टर ने अनुरोधों को स्पष्ट रूप से अस्वीकार कर दिया। समस्या, जैसा कि सुरक्षा सलाहकार Merritt Baer ने VentureBeat को बताया, संरचनात्मक है। "वही संकेत जो सक्रिय घुसपैठ के दौरान सबसे मूल्यवान हैं, वही संकेत हैं जो सुरक्षा प्रणाली को ट्रिगर करने की सबसे अधिक संभावना है," उन्होंने कहा।
वाणिज्यिक मॉडल के पास एक प्रमाणित घटना प्रतिक्रियाकर्ता को एक हमलावर से बताने का कोई विश्वसनीय तरीका नहीं है। दोनों एक ही प्रश्न पूछते हैं।
रक्षकों ने अंततः GLM 5.2 का उपयोग किया, एक ओपन-वेट मॉडल Hugging Face की अपनी बुनियादी ढांचे पर चल रहा था, 17,000 से अधिक दर्ज घटनाओं का पुनर्निर्माण करने के लिए। कोई भी संवेदनशील डेटा इमारत को नहीं छोड़ा।
Hugging Face असममिति के बारे में स्पष्ट थी। कंपनी ने अपने प्रकटीकरण में लिखा कि "हमलावर किसी भी उपयोग नीति से बंधा नहीं था, जबकि हमारे अपने फोरेंसिक कार्य को होस्ट किए गए मॉडलों की सुरक्षा से अवरुद्ध किया गया था जिसे हमने पहले आजमाया था।" इसने यह भी कहा कि यह सुरक्षा उपायों के खिलाफ एक तर्क नहीं है, और यह प्रतिक्रिया को शामिल वाणिज्यिक प्रदाताओं के साथ साझा किया गया है।
Baer की सुरक्षा टीमों के लिए व्यावहारिक सलाह सीधी है: वाणिज्यिक AI API को उसी तरह माना जाए जैसे आप किसी भी निर्भरता को मानते हैं जो संकट के दौरान विफल हो सकता है। एक परिपक्व घटना-प्रतिक्रिया योजना को मानना चाहिए कि वे उपकरण ठीक तब अनुपलब्ध हो सकते हैं जब आपको सबसे अधिक आवश्यकता हो। एक ऑन-परिसर या निजी मॉडल विकल्प तैयार रखें। सभी क्रेडेंशियल को न्यूनतम आवश्यक पहुंच के लिए स्कोप करें। और अपनी पाइपलाइनों में प्रवेश करने वाले डेटा को उसी सावधानी से स्क्रीन करें जैसे आप और कुछ भी करते हैं।
Hugging Face के सामान्य उपयोगकर्ताओं के लिए, कंपनी कहती है कि कोई साक्ष्य नहीं है कि सार्वजनिक मॉडल या डेटासेट को संशोधित किया गया था। यदि आप प्रभावित हैं, कंपनी कहती है कि वह आपसे सीधे संपर्क करेगी।
