Apple उस स्टार्टअप से बात कर रहा है जो विशाल AI को iPhone में समा रहा है
PrismML का दावा है कि इसने 54 गीगाबाइट के AI मॉडल को 4 गीगाबाइट से कम में सिकोड़ दिया है। Apple पूरी तरह ध्यान दे रहा है।
मुख्य बिंदु
- PrismML, Khosla Ventures द्वारा समर्थित कैलटेक का एक स्पिनआउट, मंगलवार को एक संपीड़ित AI मॉडल जनता के लिए जारी करता है जो iPhone 15 या नए में फिट बैठता है।
- स्टार्टअप का कहना है कि इसने अलीबाबा के ओपन-सोर्स Qwen मॉडल को लगभग 54 GB से 4 GB से कम तक कम कर दिया है, जो आकार में 13 गुना से अधिक की कमी है।
- Apple PrismML के साथ अपने उपकरणों पर उपयोग के लिए प्रौद्योगिकी का मूल्यांकन करने के प्रारंभिक चर्चा में है, PrismML के CEO Babak Hassibi ने CNBC को बताया।
- PrismML ने मार्च 2025 में $16.25 मिलियन का सीड राउंड जुटाया।
- संपीड़ित मॉडल मानक संस्करणों की तुलना में 10 से 15 गुना कम मेमोरी का उपयोग करते हैं और 6 से 8 गुना तेजी से प्रतिक्रिया उत्पन्न करते हैं, कंपनी के अनुसार।
एक सिलिकॉन वैली स्टार्टअप का कहना है कि इसने एक शक्तिशाली AI मॉडल को कम करने का तरीका निकाल लिया है, जो कि ChatGPT जैसे चैटबॉट को चलाने वाले सॉफ्टवेयर का प्रकार है, एक ऐसे आकार तक जो पूरी तरह से iPhone पर चलने के लिए काफी छोटा है। और Apple को इसमें दिलचस्पी है।
PrismML, कैलिफोर्निया इंस्टीट्यूट ऑफ टेक्नोलॉजी से निकला एक कंपनी, मंगलवार को अलीबाबा के ओपन-सोर्स Qwen मॉडल के संपीड़ित संस्करण जनता के लिए जारी करता है। Qwen आमतौर पर लगभग 54 गीगाबाइट स्टोरेज लेता है। PrismML का कहना है कि इसने इसे 4 गीगाबाइट से कम तक कम कर दिया है, इसके सभी 27 अरब आंतरिक डेटा बिंदुओं को बरकरार रखते हुए, जिन्हें पैरामीटर कहा जाता है।
CEO Babak Hassibi ने CNBC को बताया कि Apple और अन्य अनाम कंपनियां सक्रिय रूप से स्टार्टअप के मॉडलों का परीक्षण कर रही हैं, वास्तविक उपकरणों पर गति, ऊर्जा उपयोग और समग्र प्रदर्शन को मापते हुए। उन्होंने Apple चर्चाओं को बहुत प्रारंभिक कहा लेकिन कहा कि "चीजें अच्छी तरह से आगे बढ़ रही हैं।"
यह रिलीज एक दिन बाद आया जब Apple ने iOS 27 पब्लिक बीटा खोला, जो iPhone मालिकों को कंपनी के लंबे समय से स्थगित Siri के ओवरहाल का पहला व्यापक दृश्य देता है।
क्या यह महत्वपूर्ण है कि AI आपके फोन पर चलता है?
एक दूर के सर्वर को आपका अनुरोध भेजने और उत्तर वापस आने के लिए प्रतीक्षा करने के बजाय, सीधे एक डिवाइस पर AI चलाना तेज है और आपके डेटा को आपके फोन पर रखता है। यह तब सबसे महत्वपूर्ण होता है जब जानकारी व्यक्तिगत हो: स्वास्थ्य रिकॉर्ड, दवा के समय सूची, फोटो। इसका मतलब यह भी है कि कुछ विशेषताएं बिना किसी इंटरनेट कनेक्शन के काम करती हैं।
Apple पहले से ही कुछ कार्य स्थानीय रूप से संभालता है, जिसमें अनुवाद और बुनियादी सारांश शामिल हैं। अधिक मांग वाले अनुरोध क्लाउड में जाते हैं। कंपनी उस संतुलन को उलट देना चाहती है।
PrismML की चाल मॉडल के अंदर मूल्यों को कैसे संग्रहीत किया जाता है इसे कट्टरपंथी रूप से सरल बनाना है। एक मानक मॉडल 16 संभावित राज्यों का उपयोग करके प्रत्येक मूल्य संग्रहीत करता है, जैसे बहुत सटीक माप पैमाना। PrismML प्रत्येक मूल्य को केवल एक या तीन संभावित राज्यों तक कम कर देता है। इसे एक बारीकी से स्नातक शासक से एक सरल ऑन-ऑफ स्विच में स्विच करने के रूप में सोचें। यह मेमोरी उपयोग को तेजी से कम करता है।
कंपनी का कहना है कि ट्रेड-ऑफ सटीकता में एक छोटी सी गिरावट है। तथ्यात्मक स्मरण पहले कमजोर होता है। तर्क और गणित जैसे कौशल बेहतर तरीके से काम करते हैं।
विश्लेषकों ने इस अवधारणा का स्वागत किया लेकिन सावधानी की वकालत की। Counterpoint Research के Tarun Pathak ने कहा कि लाखों वास्तविक दुनिया की क्वेरी पर लाखों वास्तविक दुनिया की क्वेरी के बीच प्रदर्शन, हजारों विभिन्न डिवाइस संयोजनों पर, सच्ची परीक्षा है। IDC के Phil Solis ने बैटरी जीवन को सबसे बड़े खुले सवाल के रूप में चिह्नित किया: एक मॉडल को पृष्ठभूमि में लगातार उपयोग करने से एक फोन को खाली कर सकता है भले ही उसे कम मेमोरी की आवश्यकता हो।
रोज़मर्रा के iPhone उपयोगकर्ताओं के लिए, अभी कुछ नहीं बदलता है। यह एक व्यावसायिक बातचीत है, सॉफ्टवेयर अपडेट नहीं। लेकिन अगर Apple और PrismML एक समझौता तक पहुंचते हैं, तो भविष्य के Siri सुधार तेजी से आ सकते हैं, ऑफलाइन काम कर सकते हैं और अधिक संवेदनशील जानकारी को संभाल सकते हैं बिना इसे कभी आपकी जेब से निकाले।
PrismML iPhone, MacBook और Nvidia-संचालित Windows PC के साथ संगत दो संपीड़ित मॉडल संस्करण मुफ्त में जारी कर रहा है। Google का Gemma मॉडल कंपनी की पाइपलाइन में अगला है।
