एआई ने वेब की कमजोरी का एक नया वर्ग खोजा। एक इंसान को समझाना पड़ा कि इससे क्या मायने रखता है।
सुरक्षा शोधकर्ता जेम्स केटल ने महीनों तक अग्रणी एआई मॉडलों के साथ प्रयोग चलाए। एआई ने उन्हें अकेले खोज पाने की तुलना में कहीं अधिक संभावनाएं दीं, लेकिन सबसे बड़ी खोज तब हुई जब इंसान और मशीन ने मिलकर काम किया।
मुख्य बातें
- सुरक्षा शोधकर्ता जेम्स केटल ने अगस्त 2025 में लास वेगास में Black Hat सम्मेलन में अपने निष्कर्ष प्रस्तुत किए, जो दिखाते हैं कि एआई किसी भी इंसान की तुलना में हैकिंग शोध के लिए कहीं तेजी से नई संभावनाएं खोज सकता है।
- केटल ने वेब की कमजोरी का एक नया वर्ग पहचाना जिसे वह Shared-Parser Confusion कहते हैं, जिसे Anthropic और OpenAI के नवीनतम मॉडलों का उपयोग करके मानव-एआई सहयोग के माध्यम से खोजा गया।
- अकेले काम करने वाले एआई मॉडलों को वास्तविक मूल अनुसंधान प्रदान करने में कठिनाई हुई और कभी-कभी उन्होंने पहले से मौजूद काम को नए के रूप में प्रस्तुत करने का प्रयास किया।
- सबसे शक्तिशाली परिणाम तब आए जब केटल ने एआई को अपने स्वयं के शोध तरीके दिए और विशेषज्ञ ज्ञान के साथ इसके आउटपुट की जांच की।
- अभी के लिए, पूरी तरह से स्वायत्त एआई हैकिंग शोध की वास्तविक सीमाएं हैं; मानव-के-साथ-लूप मॉडल सबसे सार्थक परिणाम दे रहा है।
वर्षों से, एआई और साइबर सुरक्षा के चारों ओर की बातचीत एक सरल पटकथा का अनुसरण करती रही है: एआई बग तेजी से खोजता है, हमलावर इसका उपयोग करते हैं, रक्षक इसका उपयोग करते हैं, हथियारों की दौड़ शुरू होती है। जेम्स केटल, एक अनुभवी वेब सुरक्षा शोधकर्ता, एक कठिन सवाल पूछना चाहते थे। क्या एआई वास्तव में किसी चीज को हैक करने के लिए पूरी तरह से नए तरीके ईजाद कर सकता है, खाली पृष्ठ के विचार से लेकर काम करने वाले हमले तक?
उनका उत्तर, इस सप्ताह लास वेगास में Black Hat में दिया गया, हां या नहीं से अधिक दिलचस्प है।
केटल को वास्तव में क्या मिला?
अकेला एआई मूल सोच में कमजोर है। सही समय पर एक जानकार इंसान के साथ जोड़ी गई, यह असाधारण रूप से शक्तिशाली है।
केटल ने सितंबर 2025 में Anthropic और OpenAI की नवीनतम उपलब्ध मॉडलों का उपयोग करके अपने प्रयोग शुरू किए, ये दोनों कंपनियां Claude और ChatGPT परिवार की एआई सहायकों के पीछे हैं। शुरुआत में उन्हें एक समस्या का सामना करना पड़ा: सिस्टम पहले से ज्ञात शोध को ताजा खोज के रूप में प्रस्तुत कर रहे थे, इतने अस्पष्ट विषय चुन रहे थे कि उन्हें आसानी से पकड़ा नहीं जा सकता था। तो उन्होंने अपने स्वयं के क्षेत्र, वेब सुरक्षा तक सीमा को कम कर दिया, जहां वह हर मौजूदा पेपर को जानते थे और धोखा नहीं खा सकते थे।
फिर उन्होंने मॉडलों को अपनी व्यक्तिगत शोध पद्धति के साथ प्रशिक्षित किया, उन्हें यह दिखाते हुए कि वह कैसे सोचते हैं। परिणाम तेजी से बदल गए।
"इसमें हर दो दिन में उल्लेखनीय निष्कर्ष होते थे बिना मेरे सिस्टम में लॉग इन किए भी," केटल ने Wired AI को बताया। "यह इतने सारे शोध की संभावनाएं थीं कि आप सभी का पता लगाने के बारे में सोच रहे हों।"
कुछ महीनों में एआई ने केटल के अनुमान से कई वर्षों के एकल काम में पाई जाने वाली तुलना में अधिक पुष्टि कमजोरियों का सामना किया।
Shared-Parser Confusion क्या है?
यह वेब की कमजोरी का एक नव-पहचाना वर्ग है, और यह महत्वपूर्ण है क्योंकि यह एक विश्वास की सीमा को उजागर करता है जिस पर अधिकांश डेवलपर्स ने सवाल उठाने के बारे में कभी सोचा नहीं था।
वेब सर्वर कोड का उपयोग करते हैं, जिसे पार्सर कहा जाता है, डेटा को पढ़ने और समझने के लिए। केटल के एआई विश्लेषण ने कुछ सूक्ष्म देखा: कुछ सर्वर उपयोगकर्ताओं से आने वाले अनुरोधों और सर्वर से आने वाली प्रतिक्रियाओं दोनों को संभालने के लिए एक ही साझा पार्सर का उपयोग करते हैं। अनुरोध डिजाइन द्वारा अविश्वसनीय हैं; कोई भी इंटरनेट से कुछ भी भेज सकता है। प्रतिक्रियाएं सुरक्षित मानी जाती हैं। यदि कोई हमलावर इस सीमा को धुंधला कर सकता है, तो वे एक रास्ते के माध्यम से दुर्भावनापूर्ण सामग्री को छिपा सकते हैं जिसे सर्वर सुरक्षित मानता है।
"यह एक प्रमुख हमले की सतह है और संभावित रूप से विभिन्न हमले के प्रकारों में फैल सकता है," केटल ने कहा।
एआई ने अकेले कमजोरी की पुष्टि नहीं की। इसने पुष्टि की गई, वास्तविक-दुनिया के निष्कर्षों का एक सेट विश्लेषण किया और परिकल्पना उत्पन्न की। केटल ने इसका मूल्यांकन किया, इसे प्रलेखन की एक पंक्ति तक पहुंचाया, और इसकी पुष्टि की। न ही अकेले वहां पहुंचे होते।
क्या सुरक्षा टीमों को एआई-संचालित हमलों के बारे में चिंतित होना चाहिए?
हां, लेकिन अधिक तत्काल चिंता अनुसंधान त्वरण है, न कि एक पूरी तरह से स्वायत्त हैकिंग मशीन।
केटल सीमाओं के बारे में प्रत्यक्ष हैं। एआई अकेले काम करते हुए अभी भी भ्रम पैदा करता है, पुरानी चीजों को पुनर्चक्रित करता है, और अपने स्वयं के निष्कर्षों को पूरी तरह से सत्यापित नहीं कर सकता है। आजकी खतरा प्रतिक्रिया लूप है: एक कुशल हमलावर जो एआई को शोध भागीदार के रूप में उपयोग करता है, कमजोरी खोज के माध्यम से एक गति से आगे बढ़ सकता है जिससे रक्षा टीमें अभी तक मेल नहीं खा सकीं।
यह खोज रक्षा के लिए भी महत्वपूर्ण है। एक नए हमले वर्ग को खोजने वाले एक ही मानव-एआई सहयोग को इसे पैच करने की ओर मोड़ा जा सकता है।
ध्यान रखें: अनुरोधित सुरक्षा रिपोर्टें जो एआई-जनित विश्लेषण का हवाला देती हैं बिना शोधकर्ता या पद्धति का नाम दिए। प्रशंसनीय लेकिन अनुत्यवेरित कमजोरी दावों की मात्रा तेजी से बढ़ने वाली है। किसी भी प्रकटीकरण पर कार्य करने से पहले स्रोतों की सत्यापन करें।
