Apple के शोधकर्ताओं ने AI मॉडल को लॉक करने का तरीका खोजा ताकि कोई उनके साथ छेड़छाड़ न कर सके
खुले AI मॉडल शक्तिशाली, साझा करने योग्य और नियंत्रण में क्रमशः कठिन होते जा रहे हैं। Apple ML Research की एक नई तकनीक पूर्व-प्रशिक्षित वजन को खतरनाक उपयोग की ओर मोड़े जाने से सुरक्षित रखने का लक्ष्य रखती है, साथ ही खुले मॉडल को उपयोगी बनाने वाली चीजों का त्याग किए बिना।
मुख्य बिंदु
- Apple ML Research ने खुले भार वाले AI मॉडल के आंतरिक मापदंडों को अनुमति विहीन सूक्ष्म-समंजन से सुरक्षित करने के लिए एक नई विधि प्रकाशित की है।
- खुले भार वाले मॉडल, AI सिस्टम जिनकी आंतरिक सेटिंग्स सार्वजनिक रूप से साझा और डाउनलोड की जा सकती हैं, पिछले कुछ वर्षों में गुणवत्ता में तेज़ी से सुधार हुई है।
- यह तकनीक गहरे निम्न-रैंक अवशेष आसवन का उपयोग करके मॉडल के मूल व्यवहार को लॉक करती है जबकि इसे वैध उपयोगकर्ताओं के लिए कार्यात्मक रखती है।
- खुले AI मॉडल के दुरुपयोग के विरुद्ध बचाव कठिन है क्योंकि एक बार वजन सार्वजनिक हो जाने पर कोई भी उन्हें अपने हार्डवेयर पर संशोधित कर सकता है।
- यह शोध एक बढ़ते तनाव को लक्षित करता है: खुलापन प्रगति चलाता है, लेकिन यह AI उपकरणों को भी हथियारबंद करना आसान बनाता है।
एक पाठ्यपुस्तक की कल्पना करें जिसे आप डाउनलोड, कॉपी और लिख सकते हैं। खुले भार वाले AI मॉडल भी इसी तरह काम करते हैं। "वजन" लाखों संख्यात्मक सेटिंग्स हैं, प्रशिक्षण के दौरान सीखे गए, जो परिभाषित करते हैं कि एक मॉडल कैसे सोचता है और जवाब देता है। उन सेटिंग्स को सार्वजनिक रूप से साझा करें और दुनिया भर के शोधकर्ता उन पर निर्माण कर सकते हैं, उन्हें परीक्षण कर सकते हैं, सस्ते हार्डवेयर पर चला सकते हैं, और विशिष्ट कार्यों के लिए उन्हें अनुकूलित कर सकते हैं।
यह स्वतंत्रता ने AI प्रगति को बहुत तेज़ किया है। इसने एक समस्या भी बनाई है।
वास्तविक जोखिम क्या है?
एक बार वजन सार्वजनिक हो जाने पर, कोई भी मॉडल को हानिकारक लक्ष्यों की ओर पुनः प्रशिक्षित या समायोजित कर सकता है, और मूल डेवलपर्स के पास उन्हें रोकने का कोई तरीका नहीं है। एक मॉडल में बनी सुरक्षा फ़िल्टर चुपचाप हटाई जा सकती है। जिस व्यवहार को जानबूझकर प्रतिबंधित किया गया था, उसे अनलॉक किया जा सकता है।
इसके विरुद्ध बचाव करना वास्तव में कठिन है। एक दृढ़ संकल्पित उपयोगकर्ता जो अपने कंप्यूटर पर, ऑफ़लाइन, किसी प्लेटफॉर्म की सेवा की शर्तों के बाहर काम कर रहा है, संशोधन के लिए कोई तकनीकी बाधा का सामना नहीं करता। सामान्य सुरक्षाएं, सामग्री नीतियां और API प्रतिबंध, डाउनलोड किए गए वजन पर बस लागू नहीं होती हैं।
Apple के शोधकर्ताओं ने वास्तव में क्या बनाया?
इस तकनीक को गहरे निम्न-रैंक अवशेष आसवन कहा जाता है। यह नाम एक मुहावरा है, तो यहाँ व्यावहारिक रूप से इसका अर्थ है।
"आसवन" एक मॉडल के ज्ञान को एक नए रूप में संपीड़ित करने की प्रक्रिया है। "निम्न-रैंक" का अर्थ है कि परिवर्तन गणितीय रूप से न्यूनतम तरीके से संरचित होते हैं, मॉडल के अंदर गहरी परतों में छोटे समायोजन। परिणाम एक मॉडल है जो इच्छित उपयोग के लिए सामान्य रूप से व्यवहार करता है लेकिन सूक्ष्म-समंजन के माध्यम से कहीं और निर्देशित होने का प्रतिरोध करता है, जो मानक विधि है जिसका उपयोग हमलावर अपने व्यवहार को बदलने के लिए करते हैं।
इसे पाठ्यपुस्तक की रीढ़ में बना एक ताले की तरह सोचें। आप प्रत्येक पृष्ठ पढ़ सकते हैं। आप अध्याय को फिर से नहीं लिख सकते।
Apple ML Research, जिसने इस काम को प्रकाशित किया, इसे खुलापन और सुरक्षा के बीच तनाव के लिए एक सीधे जवाब के रूप में प्रस्तुत करता है। अधिक शक्तिशाली खुले मॉडल का मतलब अधिक हाथों में अधिक क्षमता है, जो ज्यादातर अच्छी बात है। इसका अर्थ यह भी है कि नुकसान पहुंचाने के लिए उपकरण अधिक सुलभ हो जाते हैं, जो नहीं है।
क्या यह साधारण लोगों को प्रभावित करता है?
सीधे नहीं, अभी नहीं। यह एक शोध पत्र है, कोई उत्पाद नहीं जो आज शिप हो रहा है।
लेकिन अंतर्निहित समस्या खुले मॉडल पर निर्मित AI उपकरणों का उपयोग करने वाले किसी को भी छूती है, लेखन सहायकों से लेकर छवि जेनरेटर से लेकर ग्राहक सेवा बॉट तक। यदि उन मॉडल को किसी उत्पाद तक पहुंचने से पहले चुपचाप संशोधित किया जा सकता है, तो मूल डेवलपर्स द्वारा किया गया सुरक्षा कार्य कुछ नहीं का मतलब रखता है।
इस तरह का शोध एक संरचनात्मक स्तर पर खुले मॉडल इकोसिस्टम को सुरक्षित बनाने का एक प्रयास है, ताकि साझा करने योग्य AI के लाभ, सस्ता, तेज़, अधिक पारदर्शी, दुरुपयोग के लिए आसान मार्ग के साथ बंडिल न हों।
क्या यह तकनीक पैमाने पर दृढ़ विरोधियों के विरुद्ध टिकी रहती है, यह अगला सवाल है। स्वतंत्र शोधकर्ता अब इसे तनाव-परीक्षण करेंगे। यह, तर्कसंगत रूप से, बिल्कुल वैसे ही है जैसे खुली विज्ञान को काम करना चाहिए।
