Meta का Muse Glimmer एक 30-बिलियन-पैरामीटर AI है जिसे आप अपनी मशीन पर चला सकते हैं
यह नया ओपन-सोर्स मॉडल छवियों को देखता है, वीडियो को समझता है, और एक व्यक्तिगत सहायक के रूप में कार्य कर सकता है, सब कुछ बिना आपके डेटा को क्लाउड सर्वर पर भेजे।
मुख्य बिंदु
- Meta ने इस घोषणा के समान दिन Muse Glimmer को Apache 2.0 ओपन-सोर्स लाइसेंस के तहत जारी किया, जिसका अर्थ है कि कोई भी इसे मुफ्त में उपयोग या संशोधित कर सकता है।
- मॉडल में 30 बिलियन पैरामीटर हैं, जो इसकी जटिलता का एक मोटा माप है, जो इसे कई अग्रगामी AI सिस्टम की तुलना में छोटा और सस्ता बनाता है।
- Muse Glimmer एक ही मॉडल के अंदर पाठ, छवियों और वीडियो को प्रक्रिया कर सकता है, और मौसम सेवा जैसी बाहरी उपकरणों को अपने आप से कॉल कर सकता है।
- Hugging Face ने पहले दिन से पाँच प्रमुख सॉफ्टवेयर ढांचे में मॉडल के लिए समर्थन प्रदान किया।
- स्पेकुलेटिव डिकोडिंग ड्राफ्टर नामक एक अंतर्निर्मित गति बूस्टर विशेष रूप से कोड जैसे संरचित आउटपुट बनाने में अच्छा है।
Meta ने अभी-अभी एक नया AI मॉडल जारी किया है, और मुख्य तथ्य यह है कि यह कहाँ चलता है: किसी कंपनी के सर्वर पर नहीं, बल्कि आपके अपने कंप्यूटर पर।
Muse Glimmer एक 30-बिलियन-पैरामीटर मल्टीमोडल मॉडल है, जिसका अर्थ है कि यह पाठ, छवियों और वीडियो सभी को एक बार में संभालता है न कि प्रत्येक के लिए अलग उपकरणों की आवश्यकता होती है। इसे Meta के एक बड़े मॉडल Muse से तैयार किया गया है, एक प्रक्रिया जो एक विस्तृत पाठ्यपुस्तक से एक संक्षिप्त छात्र संस्करण बनाने जैसी है। परिणाम एक मॉडल है जो जटिल कार्यों को संभालते हुए भी स्थानीय रूप से चलाने के लिए काफी कॉम्पैक्ट है।
यह वास्तव में क्या कर सकता है?
Muse Glimmer फ़ोटो के बारे में प्रश्नों के उत्तर दे सकता है, दस्तावेजों का विश्लेषण कर सकता है, कोड लिख और समझा सकता है, और एक व्यक्तिगत सहायक के रूप में कार्य कर सकता है जो आपकी ओर से कार्रवाई करता है। यदि आप इसे एक शहर की तस्वीर दिखाते हैं और पूछते हैं कि पैक करने के लिए क्या लाएं, तो यह स्थान को पहचान सकता है और स्वचालित रूप से एक मौसम सेवा को क्वेरी कर सकता है ताकि आपको एक वास्तविक उत्तर दिया जा सके।
वीडियो भी समर्थित है। मॉडल प्रति क्लिप 96 फ्रेम तक की गति को संसाधित करता है, प्रति सेकंड दो फ्रेम का नमूना लेता है, और प्रत्येक फ्रेम को उसके टाइमस्टैम्प के साथ चिह्नित करता है ताकि यह समझ सके कि चीजें कब होती हैं, न कि केवल क्या दिखाया जाता है।
मॉडल इंजीनियरों द्वारा जिसे एजेंटिक कहा जाता है वह भी है, जिसका अर्थ है कि यह एक लक्ष्य को चरणों में तोड़ सकता है और उन्हें किसी के द्वारा प्रत्येक को हाथ से निर्देशित किए बिना ले जा सकता है। इसे एक सर्च इंजन की तरह कम और एक सक्षम इंटर्न की तरह अधिक सोचें जो पढ़ सकता है, चीजों को देख सकता है, और कार्य कर सकता है।
इसे स्थानीय रूप से चलाना क्यों मायने रखता है?
मॉडल को अपने हार्डवेयर पर चलाना मतलब है कि आपके दस्तावेज, फोटो और बातचीत कभी आपकी मशीन से बाहर नहीं निकलते। यह किसी के लिए भी महत्वपूर्ण है जो संवेदनशील जानकारी को संभाल रहा है: चिकित्सा नोट्स, कानूनी अनुबंध, निजी कोड रिपोजिटरी।
यह लागत में भी कटौती करता है। क्लाउड AI सेवाएं प्रति अनुरोध शुल्क लेती हैं; एक स्थानीय रूप से चलने वाले मॉडल की लागत केवल इसे चलाने की बिजली है।
Apache 2.0 लाइसेंस अनुमतिशील प्रकार का है: व्यवसाय Muse Glimmer के शीर्ष पर वाणिज्यिक उत्पाद बना सकते हैं बिना रॉयल्टी का भुगतान किए।
यह कितनी तेज़ है?
मॉडल के अंदर एक वैकल्पिक गति मॉड्यूल बैठा है जिसे स्पेकुलेटिव डिकोडिंग ड्राफ्टर कहा जाता है, जो DFlash नामक एक सिस्टम पर निर्मित है। स्पेकुलेटिव डिकोडिंग एक तकनीक है जहाँ एक छोटा, तेज़ मॉडल अगले कई शब्दों का अनुमान लगाता है और मुख्य मॉडल अनुमानों को बल्क में जाँचता है, प्रत्येक प्रतिक्रिया उत्पन्न करने के समय को कम करता है। व्यापार-बंद थोड़ी अधिक मेमोरी का उपयोग है। Meta कहता है कि ड्राफ्टर विशेष रूप से अच्छी तरह काम करता है जब मॉडल कोड जैसी संरचित सामग्री लिख रहा हो।
Hugging Face द्वारा रिपोर्ट किए गए अनुसार, NVIDIA, AMD और Intel ग्राफिक्स कार्ड पर Muse Glimmer चलाने के लिए आवश्यक सॉफ्टवेयर ढांचे (विशेष चिप्स जो AI मॉडल संख्या-क्रंचिंग के लिए निर्भर करते हैं) सभी आज तैयार हैं, जिसमें लोकप्रिय transformers लाइब्रेरी और llama.cpp शामिल हैं, एक उपकरण जो सामान्य उपभोक्ता हार्डवेयर पर बड़े मॉडल चलाने के लिए डिज़ाइन किया गया है।
इसके बाद क्या होगा?
Meta Muse Glimmer को सीधे विकासकर्ताओं और गोपनीयता-सचेत उपयोगकर्ताओं को लक्षित कर रहा है जो एक सदस्यता या डेटा-साझाकरण समझौते के बिना शक्तिशाली AI चाहते हैं। चाहे वर्कलोड जो कभी क्लाउड सेवा की आवश्यकता रखते थे, स्थानीय मॉडल में माइग्रेट होंगे, यह काफी हद तक इस बात पर निर्भर करता है कि 30-बिलियन-पैरामीटर आकार उन कार्यों के विरुद्ध कितनी अच्छी तरह धारण करता है जो आज बहुत बड़ी प्रणालियों की मांग करते हैं।
पूर्ण मॉडल संग्रह Hugging Face पर उपलब्ध है।
