स्लॉपस्क्वाटिंग: एआई कोडिंग टूल्स के अंदर छिपा हुआ खतरा
जब एआई सहायक ऐसे सॉफ्टवेयर पैकेज का आविष्कार करते हैं जो मौजूद नहीं होते, तो अपराधी उन नामों को पंजीकृत करते हैं और उन्हें मैलवेयर से भर देते हैं। यहाँ बताया गया है कि यह हमला कैसे काम करता है और डेवलपर्स इसके बारे में क्या कर सकते हैं।
मुख्य बिंदु
- स्लॉपस्क्वाटिंग एक सप्लाई चेन अटैक है जो एआई कोडिंग सहायकों द्वारा नकली सॉफ्टवेयर पैकेज नाम बनाने का शोषण करता है, जिन्हें अपराधी बाद में पंजीकृत करते हैं और उन्हें दुर्भावनापूर्ण कोड से भर देते हैं।
- 576,000 एआई-जेनरेट किए गए कोड नमूनों के एक अध्ययन में पाया गया कि एआई द्वारा अनुशंसित 19.7% सॉफ्टवेयर पैकेज मौजूद नहीं थे।
- जीपीटी-4ओ टर्बो, ओपनएआई का मॉडल, 3.59% की दर से नकली पैकेज नाम बनाता है, जबकि ओपन-सोर्स मॉडल 13% से अधिक की दर तक पहुँचते हैं।
- रिपोर्ट किए गए सॉफ्टवेयर कमजोरियाँ हाल के शोध में सालाना 98% की दर से बढ़ीं, जो ओपन-सोर्स पैकेजों की संख्या में 25% की सालाना वृद्धि से लगभग चार गुना अधिक है।
- डेवलपर्स हर पैकेज को जांचकर अपने जोखिम को कम कर सकते हैं जिसे एआई अनुशंसित करता है और यह सुनिश्चित करते हैं कि वह वास्तव में किसी आधिकारिक रजिस्ट्री में मौजूद है, उसे स्थापित करने से पहले।
हर बार जब एक डेवलपर किसी एआई कोडिंग सहायक को सॉफ्टवेयर लिखने के लिए कहता है, तो एआई आसानी से एक पैकेज की अनुशंसा कर सकता है—पूर्व-निर्मित कोड का एक बंडल जो अन्य प्रोग्रामर ऑनलाइन मुक्त रूप से साझा करते हैं—जो बस मौजूद नहीं है। एआई ने इसका आविष्कार किया। यह हानिरहित लगता है जब तक आप नहीं जानते कि अपराधी इसी चीज़ की तलाश में हैं।
इस हमले को स्लॉपस्क्वाटिंग कहा जाता है। यह नाम "एआई स्लॉप" को मिश्रित करता है, कम गुणवत्ता के एआई आउटपुट के लिए इंटरनेट स्लैंग, "टाइपोस्क्वाटिंग" के साथ, एक पुरानी चाल जहाँ अपराधी वेबसाइट या पैकेज नाम पंजीकृत करते हैं जो असली चीज़ की तरह दिखते हैं लेकिन एक जानबूझकर की गई वर्तनी की त्रुटि के साथ होते हैं। स्लॉपस्क्वाटिंग आगे जाता है: नकली नाम कभी किसी चीज़ की वर्तनी की त्रुटि नहीं था। एआई ने इसे पूरी तरह से बनाया।
यह कैसे होता है यहाँ बताया गया है। एक डेवलपर अपने एआई सहायक को कहता है, कहते हैं गिटहब कोपायलट या चैटजीपीटी, अपने ऐप में एक सुविधा जोड़ने के लिए। एआई कार्यशील कोड लिखता है जो "क्रॉस-एनवी-एक्सटेंडेड" जैसे कुछ पैकेज को आयात करता है। डेवलपर इसे चलाता है। उनका कंप्यूटर इंटरनेट से वह पैकेज प्राप्त करता है और इसे स्थापित करता है। यदि किसी अपराधी ने पहले वह नाम पंजीकृत किया और इसे मैलवेयर से भर दिया, तो डेवलपर ने अभी-अभी चाबियाँ सौंप दी हैं।
आज मौजूद रक्षा इसे कवर नहीं करते। पैकेज रजिस्ट्रियाँ, ऑनलाइन पुस्तकालय जहाँ डेवलपर्स कोड डाउनलोड करते हैं, पहले से ही लोकप्रिय पैकेजों की स्पष्ट टाइपो को ब्लॉक करते हैं। वे "क्रॉसएनवी" को "क्रॉस-एनवी" के नकली संस्करण के रूप में पकड़ लेंगे। उनके पास "क्रॉस-एनवी-एक्सटेंडेड" को फ्लैग करने का कोई तरीका नहीं है क्योंकि नाम बिल्कुल वैध लगता है।
समस्या का पैमाना निराशाजनक है। वेंचरबीट द्वारा उद्धृत एक अध्ययन में लगभग 576,000 एआई-जेनरेट किए गए कोड नमूनों का विश्लेषण किया गया और पाया गया कि एआई द्वारा अनुशंसित पैकेज नामों में से लगभग एक-पाँचवाँ नकली थे। यहाँ तक कि जीपीटी-4ओ, ओपनएआई का वर्तमान प्रमुख मॉडल, उन परीक्षणों में 3.59% की दर से हॉलुसिनेट किए गए पैकेज नाम अनुशंसित करता है। ओपन-सोर्स मॉडल ने और भी खराब प्रदर्शन किया: डीपसीक 1बी, परीक्षण किया गया सर्वश्रेष्ठ-प्रदर्शन करने वाला ओपन मॉडल, अभी भी 13.63% तक पहुँचा, जिससे ओपन-सोर्स एआई टूल्स इस मापदंड पर लगभग चार गुना अधिक जोखिमपूर्ण हैं।
हॉलुसिनेशन यादृच्छिक नहीं हैं, जो उन्हें खतरनाक बनाता है। मॉडल एक ही नकली नामों को बार-बार बनाते हैं। एक अपराधी जो यह मानचित्र बना सकता है कि कौन से नाम एक लोकप्रिय मॉडल को पसंद हैं, कुछ पैकेजों को पंजीकृत कर सकते हैं और हजारों डेवलपर्स द्वारा स्वचालित रूप से उन्हें स्थापित करने की प्रतीक्षा कर सकते हैं।
डेवलपर्स को वास्तव में क्या करना चाहिए?
सबसे सरल कदम भी सबसे प्रभावी है: इससे पहले कि आपका प्रोजेक्ट कोई भी पैकेज स्थापित करे जिसे एआई अनुशंसित करता है, इसे स्वयं आधिकारिक रजिस्ट्री में खोजें, जैसे जावास्क्रिप्ट के लिए npmjs.com या पायथन के लिए PyPI। यदि यह वहाँ नहीं है, तो इसका उपयोग न करें।
टीमें स्वचालित जांच स्थापित करके आगे जा सकती हैं, ऐसी स्क्रिप्ट जो कोड भेजने से पहले किसी प्रोजेक्ट में हर पैकेज नाम की आधिकारिक रजिस्ट्री के विरुद्ध तुलना करते हैं। सुरक्षा टीमों को ज्ञात स्लॉपस्क्वाटिंग अभियानों को ट्रैक करना चाहिए जैसे वे फिशिंग रुझानों को ट्रैक करते हैं।
डेवलपर्स आज जो कोड कमिट करते हैं उसका 40% से अधिक पहले से ही एआई सहायता शामिल है, और यह शेयर बढ़ रहा है। जितना अधिक एआई बिना मानव समीक्षा के कोड लिखता है, उतना अधिक द्वार खुल जाता है। समाधान एआई टूल्स का उपयोग बंद करना नहीं है। यह उनके आउटपुट को एक पहला ड्राफ्ट के रूप में मानना है जिसे अभी भी बुनियादी तथ्य-जांच की आवश्यकता है।
सत्यापन का एक वाक्य एक ऐसा दरवाजा बंद कर सकता है जिस पर अपराधी सक्रिय रूप से जोर दे रहे हैं।
