मिस्ट्रल का नया सुरक्षा उपकरण आपके नियमों को पढ़ता है और तुरंत लागू करता है
शील्डस्ट्रल एक छोटा, मुफ्त एआई मॉडल है जो सादे अंग्रेजी नीतियों का उपयोग करके टेक्स्ट और छवियों में हानिकारक सामग्री की जांच करता है जो आप स्वयं लिखते हैं। किसी विशेषज्ञ ज्ञान की आवश्यकता नहीं है।
मुख्य बिंदु
- मिस्ट्रल एआई ने 2025 में शील्डस्ट्रल जारी किया, जो एक 3-बिलियन-पैरामीटर ओपन-सोर्स सामग्री संयोजन मॉडल है।
- यह मॉडल मानक सुरक्षा मानकों पर अपने आकार से सात गुना बड़े प्रतिद्वंद्वी मॉडल के बराबर या उससे बेहतर प्रदर्शन करता है।
- अधिकांश संयोजन उपकरणों के विपरीत, यह उपयोग के समय सादे अंग्रेजी सुरक्षा नियमों को स्वीकार करता है, बिना पुनः प्रशिक्षण के।
- यह एक एकल इंटरफेस के माध्यम से टेक्स्ट, छवियों, या दोनों का संयोजन जांचता है।
- शील्डस्ट्रल एक भी उपभोक्ता-ग्रेड 16GB ग्राफिक्स कार्ड पर चलता है और Apache 2.0 लाइसेंस के तहत उपयोग के लिए मुफ्त है।
सामग्री संयोजन, यह तय करने का काम कि एक एआई प्रणाली को क्या कहना और दिखाना चाहिए और क्या नहीं, एक गंदा रहस्य है। अधिकांश उपकरण जो यह काम करते हैं अपने नियमों को स्थायी रूप से बेक करते हैं। नियमों को बदलें और आपको पूरी चीज़ को शुरुआत से फिर से बनाना होगा।
मिस्ट्रल एआई इसे ठीक करने की कोशिश कर रहा है।
कंपनी ने इस सप्ताह शील्डस्ट्रल जारी किया: एक सामग्री-सुरक्षा मॉडल, एक सॉफ्टवेयर जो यह निर्णय लेता है कि टेक्स्ट या छवियां किसी दिए गए नीति को तोड़ती हैं या नहीं, जो आपके नियमों को तुरंत सीखता है। आप एक सादे अंग्रेजी प्रश्न टाइप करते हैं, जैसे "क्या यह सामग्री आत्म-हानि को बढ़ावा देती है?" मॉडल इसे पढ़ता है, सामग्री को पढ़ता है, और शून्य से एक के बीच एक स्कोर लौटाता है जो उल्लंघन की संभावना को इंगित करता है। कोई कोडिंग नहीं। कोई पुनः प्रशिक्षण नहीं।
यह एआई लैब के बाहर किसी के लिए महत्वपूर्ण क्यों है?
एआई चैटबॉट या छवि जनरेटर का उपयोग करने वाले हर ऐप को किसी प्रकार की सुरक्षा फ़िल्टर की आवश्यकता है। उन ऐप्स को बनाने वाली टीमें वर्तमान में एक कठोर विकल्प का सामना करती हैं: एक कठोर, ऑफ-द-शेल्फ फ़िल्टर का उपयोग करें जो उनके उपयोगकर्ताओं के अनुरूप नहीं हो सकता है, या महीनों और महत्वपूर्ण पैसे खर्च करके एक कस्टम फ़िल्टर बनाएं।
शील्डस्ट्रल एक तीसरा विकल्प प्रदान करता है। एक मानसिक-स्वास्थ्य मंच इसे किसी भी चीज़ को चिह्नित करने के लिए बता सकता है जो आत्महत्या को रोमांटिक बनाती है। एक बच्चों की शिक्षा सेवा इसे हल्के-फुल्के गाली-गलौज को अवरुद्ध करने के लिए बता सकती है जिसे एक साइबर सुरक्षा अनुसंधान उपकरण अनदेखा कर देगा। वही मॉडल, अलग नियम, कोई प्रतीक्षा नहीं।
क्योंकि नीति मॉडल की आंतरिक सेटिंग्स में नहीं बल्कि एक सादे वाक्य में रहती है, नियमों को स्विच करने में सेकंड लगते हैं।
कितना छोटा है छोटा, और क्या यह महत्वपूर्ण है?
बहुत छोटा, और हां, यह महत्वपूर्ण है। शील्डस्ट्रल में 3 बिलियन पैरामीटर हैं, संख्यात्मक भार जो परिभाषित करते हैं कि एक तंत्रिका नेटवर्क कैसे सोचता है। समान या कमजोर प्रदर्शन वाले प्रतिद्वंद्वी सुरक्षा मॉडल में 21 बिलियन पैरामीटर या अधिक हो सकते हैं। बड़े मॉडलों को बड़े, अधिक महंगे हार्डवेयर की आवश्यकता होती है।
शील्डस्ट्रल 16 गीगाबाइट मेमोरी वाले एक एकल ग्राफिक्स कार्ड पर चलता है, जो एक मध्य-श्रेणी के गेमिंग पीसी में पाया जाता है। यह उन डेवलपर्स और छोटी कंपनियों के लिए सुलभ है जो बड़े पैमाने पर क्लाउड कंप्यूटिंग बिल वहन नहीं कर सकते हैं।
मिस्ट्रल द्वारा प्रकाशित बेंचमार्क परिणाम दिखाते हैं कि मॉडल टेक्स्ट सुरक्षा, छवि सुरक्षा, यह पता लगाने के लिए कि एआई ने किसी अनुरोध को गलत तरीके से कब अस्वीकार किया है, और कस्टम नीतियों के अनुकूल होने के क्षेत्र में बड़े प्रतिद्वंद्वियों से मेल खाता है या उन्हें हराता है। सभी मूल्यांकन नमूने प्रशिक्षण से अलग रखे गए थे, जिसका अर्थ है कि मॉडल ने परीक्षण से पहले उन्हें नहीं देखा था।
| क्षमता | शील्डस्ट्रल परिणाम बनाम प्रतिद्वंद्वी |
|---|---|
| टेक्स्ट सुरक्षा | अपने आकार से 7 गुना बड़े मॉडल से मेल खाता है |
| मल्टीमोडल (छवि + टेक्स्ट) सुरक्षा | परीक्षण किए गए खुले मॉडल के बीच शीर्ष परिणाम |
| कस्टम नीति अनुकूलन क्षमता | बड़े मॉडल से मेल खाता है |
| आवश्यक हार्डवेयर | एकल 16GB GPU |
यह वास्तव में, चरण दर चरण क्या करता है?
मॉडल के लिए प्रत्येक अनुरोध के तीन भाग होते हैं। पहला, एक निर्देश: संदर्भ और कठोरता का स्तर, साथ ही असुरक्षित गिनती के लिए एक वैकल्पिक परिभाषा। दूसरा, सामग्री के बारे में हां-या-नहीं प्रश्न। तीसरा, सामग्री स्वयं, जो एक लिखित प्रश्न, एक मॉडल प्रतिक्रिया, या एक छवि हो सकती है।
मॉडल एक एकल संभावना स्कोर आउटपुट करता है। डेवलपर्स एक थ्रेशहोल्ड सेट कर सकते हैं, मान लीजिए 0.8, और इसके ऊपर कुछ भी स्वचालित रूप से चिह्नित कर सकते हैं।
शील्डस्ट्रल Apache 2.0 लाइसेंस के तहत जारी किया गया है, जिसका अर्थ है कि कोई भी इसे बिना शुल्क दिए डाउनलोड, उपयोग और निर्माण कर सकता है।
सामान्य प्रश्न
क्या एक गैर-तकनीकी व्यवसाय वास्तव में इसका उपयोग कर सकता है?
मॉडल का उपयोग करने के लिए अभी भी किसी मौजूदा उत्पाद से इसे कनेक्ट करने के लिए कुछ सॉफ्टवेयर विकास कार्य की आवश्यकता है। हालांकि, क्योंकि नीतियां कोड के बजाय सादे वाक्य हैं, एक उत्पाद टीम हर बार एक मशीन-लर्निंग इंजीनियर को शामिल किए बिना नियमों को स्वयं लिख और समायोजित कर सकती है।
क्या यह मॉडल वास्तविक हानिकारक सामग्री पर परीक्षण किया गया है?
मिस्ट्रल कहता है कि शील्डस्ट्रल को वास्तविक और कृत्रिम डेटा के मिश्रण पर प्रशिक्षित किया गया था जो विविध हानि श्रेणियों को कवर करता है, और सभी बेंचमार्क नमूने प्रशिक्षण से अलग रखे गए थे। कंपनी ने नोट किया कि दृश्य सुरक्षा डेटा दुर्लभ है और गलत लेबल वाली छवि उदाहरणों को फ़िल्टर करने के लिए अतिरिक्त कदम उठाए गए थे।
क्या ओपन-सोर्स होने से कोई जोखिम पैदा होता है?
खुले मॉडलों को कोई भी डाउनलोड और संशोधित कर सकता है, जिसमें बुरे अभिनेता भी शामिल हैं जो अन्य प्रणालियों से सुरक्षा फ़िल्टर को हटाने का प्रयास करते हैं। यह इस क्षेत्र में एक वास्तविक तनाव है। मिस्ट्रल ने शील्डस्ट्रल रिलीज़ नोट्स में इस विशेष चिंता को सार्वजनिक रूप से संबोधित नहीं किया है।
