Android स्क्रीन पर अदृश्य पाठ: AI सहायकों के लिए एक नया खतरा
शोधकर्ताओं को Android फोन को नियंत्रित करने वाले AI एजेंटों में कमजोरियां मिलीं, जिनका खतरा PC तक फैला है।
मुख्य बिंदु
- शोधकर्ताओं ने अक्टूबर 2023 में 5 ओपन-सोर्स Android AI एजेंट फ्रेमवर्क पर 7 हमलों का प्रदर्शन किया।
- एक Android ऐप स्क्रीन पर टेक्स्ट छिपा सकता है जिसे AI एजेंट पढ़ते और अनुसरण करते हैं।
- एक हमला फोन से PC में जा सकता है और दूरस्थ रूप से कमांड निष्पादित कर सकता है।
एक नई शोध अध्ययन ने AI एजेंटों में गंभीर कमजोरियों का खुलासा किया है, जो सॉफ्टवेयर के टुकड़े हैं जो आपकी स्क्रीन को पढ़ सकते हैं और उसके साथ एक मानव की तरह इंटरैक्ट कर सकते हैं, Android फोन पर। यह अध्ययन, जिसे पहले ThreatVectr द्वारा रिपोर्ट किया गया था, यह दिखाता है कि कैसे AppAgent और AppAgentX जैसे पांच ओपन-सोर्स फ्रेमवर्क में उपयोग किए जाने वाले ऐसे एजेंटों को दुर्भावनापूर्ण ऐप्स द्वारा रोपे गए अदृश्य टेक्स्ट द्वारा हाइजैक किया जा सकता है।
शोधकर्ताओं ने क्या खोज की?
शोधकर्ताओं ने प्रदर्शित किया कि आम Android अनुमतियों का लाभ उठाकर, एक दुर्भावनापूर्ण ऐप ऐसा टेक्स्ट प्रदर्शित कर सकता है जो मनुष्यों के लिए अदृश्य है लेकिन AI एजेंटों के लिए दृश्यमान है। AI, वास्तविक उपयोगकर्ता कमांड और इन छिपी हुई निर्देशों के बीच अंतर करने में असमर्थ, स्क्रीनशॉट लेने या डेटा को नियंत्रित करने वाले PC को वापस भेजने जैसे कार्य करने के लिए धोखा दिया जा सकता है। विफलता AI की असली और दुर्भावनापूर्ण टेक्स्ट इनपुट के बीच अंतर करने में असमर्थता में निहित है।
क्या उपयोगकर्ताओं को चिंतित होना चाहिए?
अभी के लिए, सामान्य उपयोगकर्ताओं के लिए कोई तत्काल खतरा नहीं है। परीक्षण किए गए फ्रेमवर्क शोध परियोजनाएं हैं, उपभोक्ता ऐप नहीं जो आप Google Play Store से डाउनलोड कर सकते हैं। हालांकि, जैसे-जैसे Google और Apple जैसी बड़ी तकनीकी कंपनियां ऐसे AI सहायक विकसित करती हैं जो आपके लिए देख और कार्य कर सकते हैं, ये कमजोरियां अधिक प्रासंगिक हो सकती हैं। वाणिज्यिक उत्पादों में AI एजेंट समान कमजोरियों को विरासत में पा सकते हैं क्योंकि वे स्क्रीन पिक्सल को पढ़कर काम करते हैं।
हमला कैसे काम करता है?
हमला एक ऐप के साथ शुरू होता है जो दो सामान्य Android अनुमतियों के लिए अनुरोध करता है: एक अन्य ऐप्स पर आकर्षित करने के लिए (चैट बुलबुले की तरह सोचें) और दूसरा साझा स्टोरेज में फाइलें लिखने के लिए। ये मानक अनुरोध हैं, अक्सर वैध ऐप्स में देखे जाते हैं। दुर्भावनापूर्ण ऐप तब स्क्रीन पर अदृश्य टेक्स्ट लिखता है, जिसे AI एजेंट पढ़ता है और कार्य करता है। सबसे गंभीर हमले में, AI को एक जुड़े हुए PC पर कमांड चलाने के लिए बनाया जा सकता है, जिससे एक महत्वपूर्ण सुरक्षा उल्लंघन पैदा होता है।
| हमले के चरण | विवरण |
|---|---|
| चरण 1 | ऐप आकर्षित और लिखने की अनुमति के लिए अनुरोध करता है। |
| चरण 2 | अदृश्य टेक्स्ट स्क्रीन पर रखा जाता है। |
| चरण 3 | AI एजेंट छिपी हुई कमांड को पढ़ता और निष्पादित करता है। |
| चरण 4 | कमांड को नियंत्रित करने वाले PC को भेजा जा सकता है। |
उपयोगकर्ता क्या कर सकते हैं?
जबकि प्रौद्योगिकी आगे बढ़ती है, उपयोगकर्ताओं को ऐसी ऐप्स की सावधानीपूर्वक जांच करनी चाहिए जो अन्य ऐप्स पर आकर्षित करने या साझा स्टोरेज तक पहुंचने की अनुमति मांगती हैं। मुफ्त उपयोगिताएं, वॉलपेपर और कीबोर्ड जो इन अनुमतियों के लिए पूछते हैं, उन्हें सावधानी के साथ माना जाना चाहिए। जब तक स्क्रीन पढ़ने वाले AI एजेंट अविश्वसनीय इनपुट को सुरक्षित रूप से संभाल नहीं सकते, तब तक ऐप अनुमतियों के बारे में चयनात्मक होना आपका सर्वोत्तम बचाव है।
सामान्य प्रश्न
क्या मेरा फोन आज अदृश्य टेक्स्ट द्वारा हैक हो सकता है?
वर्तमान में, जोखिम कम है क्योंकि कमजोर फ्रेमवर्क उपभोक्ता-सामने नहीं हैं। हालांकि, ऐप अनुमतियों के बारे में सतर्क रहना बुद्धिमानी है।
क्या मुझे आकर्षण अनुमति के लिए पूछने वाली सभी ऐप्स से बचना चाहिए?
जरूरी नहीं, लेकिन ये अनुमतियां केवल प्रतिष्ठित डेवलपर्स की ऐप्स को और जब कार्य ऐप के संचालन के लिए आवश्यक हो, दें।
