यह एआई गणित को छोड़ देता है। यह एक बैंड-एड पर चल सकता है।
टेक्सास विश्वविद्यालय के एक इंजीनियर का कहना है कि गुणन के बजाय लुकअप टेबल पर निर्मित न्यूरल नेटवर्क एआई ऊर्जा खपत को 1,000 गुना कम कर सकते हैं, और इतने छोटे चिप्स पर फिट हो सकते हैं कि वे प्लास्टिक की तरह लचकदार हों।
मुख्य बिंदु
- यूटी ऑस्टिन के लिजी के. जॉन की टीम ने ऐसे न्यूरल नेटवर्क बनाए हैं जो गुणन को लुकअप टेबल से बदल देते हैं, चिकित्सा निगरानी कार्यों पर ऊर्जा खपत को 1,000 गुना तक कम करते हैं।
- टीम का अतालता डिटेक्टर, एक डिवाइस जो खतरनाक हृदय गति की जांच करता है, एक लचकदार प्लास्टिक चिप पर केवल लगभग 10,000 लॉजिक गेट के साथ फिट बैठता है, जो एक मानक चिप पर अरबों की तुलना में है।
- एक कीवर्ड-स्पॉटिंग कार्य के लिए, उनका मॉडल प्रति निर्णय 42 से 79 नैनोजूल का उपयोग करता है, जबकि वर्तमान शीर्ष उद्योग मॉडल के लिए 5,000 से अधिक नैनोजूल हैं।
- दृष्टिकोण पहले से ही एक ट्रांसफॉर्मर मॉडल का लगभग आधा हिस्सा बदल चुका है, जो चैटजीपीटी जैसे चैटबॉट्स के पीछे की आर्किटेक्चर है, लेकिन पूर्ण भाषा-मॉडल समर्थन अभी भी प्रगति में है।
- यह तकनीक नई नहीं है, लेकिन लगभग कोई अनुसंधान टीम इस पर काम नहीं कर रही है।
हर बार जब एक चैटबॉट आपके सवाल का जवाब देता है, एक न्यूरल नेटवर्क, स्तरीकृत गणितीय प्रणाली जो एआई को इसकी पैटर्न-मिलान शक्ति देती है, लाखों या अरबों गुणन करती है। एक इनपुट संख्या को एक सीखे गए वजन से गुणा करें। इसे जोड़ें। दोहराएं। एक एकल वाक्य के लिए, यह अंकगणित ऐसे पैमाने पर चलती है जिसे अधिकांश लोग समझने के लिए संघर्ष करते हैं।
लिजी के. जॉन को लगता है कि यह बहुत सारा अनावश्यक काम है।
जॉन ऑस्टिन में टेक्सास विश्वविद्यालय में विद्युत और कंप्यूटर इंजीनियरिंग की प्रोफेसर हैं। पिछले पांच वर्षों से वह जिसे वह वेटलेस न्यूरल नेटवर्क कहती हैं, उस पर ध्यान केंद्रित करती आ रही हैं। संख्याओं को गुणा करने के बजाय, ये नेटवर्क सरल हां-या-नहीं सिग्नल को लुकअप टेबल की एक श्रृंखला के माध्यम से पास करते हैं, छोटी संग्रहीत सूचियां जो तुरंत एक पूर्व-गणना की गई उत्तर लौटाती हैं, जैसे एक मुद्रित गुणा तालिका की किताब 7x8=56 को बिना आपको शुरुआत से ही काम करने के लिए मजबूर किए। परिणाम एक नेटवर्क है जो कार्य के आधार पर 1,000 गुना कम ऊर्जा का उपयोग करके चल सकता है या एक पारंपरिक मॉडल की तुलना में 1,000 गुना छोटे चिप में फिट हो सकता है, जबकि तुलनीय रूप से सटीक उत्तर प्राप्त कर सकता है।
इस कार्य को IEEE स्पेक्ट्रम द्वारा कवर किया गया था।
गुणन को काटना इतना महत्वपूर्ण क्यों है?
गुणन हार्डवेयर के दृष्टिकोण से महंगा है: इसमें ट्रांजिस्टर, समय और शक्ति लगती है। एक लुकअप टेबल केवल मेमोरी से पढ़ता है, जो बहुत सस्ता है। जॉन बताती हैं, मानव मस्तिष्क एक बातचीत रखने के लिए लगभग 20 वाट का उपयोग करता है। इसमें कोई गुणन नहीं है।
उनकी टीम का अब तक का सबसे आकर्षक परिणाम एक मॉडल है जो एक लचकदार प्लास्टिक शीट पर निर्मित चिप पर अतालता का पता लगाता है, एक अनियमित दिल की धड़कन जो गंभीर हृदय समस्याओं का संकेत दे सकता है। वह प्लास्टिक केवल लगभग 10,000 लॉजिक गेट के साथ फिट हो सकता है। एक आधुनिक स्मार्टफोन चिप में अरब हैं। एक पारंपरिक एआई मॉडल इतने छोटे पर नहीं चल सकता। उसका चल सकता है।
चिकित्सा निगरानी कार्यों के लिए ईसीजी रीडिंग (विद्युत हृदय संकेत), ईईजी रीडिंग (विद्युत मस्तिष्क संकेत), और रक्त दबाव सहित, उनकी टीम के मॉडल मानक सटीकता को ऊर्जा के एक अंश पर मिलाते हैं। उनके द्वारा अध्ययन की गई एक समस्या के लिए सर्वश्रेष्ठ प्रतिस्पर्धी छोटा मॉडल 17 मेगाबाइट है। उनका संस्करण 14 किलोबाइट है, लगभग 1,200 गुना छोटा। क्योंकि मॉडल सेंसर पर ही फिट बैठता है, स्वास्थ्य डेटा को प्रसंस्करण के लिए कभी भी डिवाइस छोड़ने की जरूरत नहीं है। यह एक ऊर्जा बचत और गोपनीयता सुरक्षा दोनों हैं।
रोगियों को वास्तव में क्या परिवर्तन दिखाई दे सकता है?
निकट अवधि में, जॉन का पहला लक्ष्य निरंतर चिकित्सा निगरानी है। वह एक सेंसर पैच का वर्णन करती हैं जिसे आप एक सप्ताह के लिए एक चिपकने वाली पट्टी की तरह पहनते हैं, जो स्थानीय रूप से रीडिंग को संसाधित करता है और फोन या अस्पताल कनेक्शन की आवश्यकता के बिना एक समस्या को चिह्नित करता है। अभी तक, अधिकांश पहनने योग्य सेंसर कच्चे डेटा को एकत्र करते हैं और इसे वायरलेसली एक सर्वर पर भेजते हैं क्योंकि सेंसर पर चिप बहुत छोटा और बहुत ऊर्जा-गहन है जो विश्लेषण को स्वयं चलाने के लिए। एक वेटलेस नेटवर्क उसे पलट देता है।
कीवर्ड स्पॉटिंग के लिए, वह प्रक्रिया जहां एक डिवाइस जैसे एक एलेक्सा स्पीकर लगातार अपने जागरण शब्द को सुनता है, उसकी टीम का मॉडल प्रति निर्णय 42 से 79 नैनोजूल का उपयोग करता है। वर्तमान उद्योग-अग्रणी मॉडल एक ही कार्य के लिए 5,000 से अधिक नैनोजूल का उपयोग करता है। यह एक डिवाइस के बीच का अंतर है जो बैटरी पर हफ्तों तक चलता है और एक जो दिन तक चलता है।
क्या यह कभी चैटबॉट्स तक पहुंच सकता है?
अभी नहीं, लेकिन टीम इस पर काम कर रही है। एक ट्रांसफॉर्मर मॉडल, चैटजीपीटी और अधिकांश आधुनिक एआई सहायकों के पीछे की आर्किटेक्चर, में दो मुख्य अनुभाग हैं जो क्रम में दोहराते हैं: एक ध्यान परत, जो वजन करता है कि शब्द एक-दूसरे से कैसे संबंधित हैं, और एक बहुस्तरीय पर्सेप्ट्रॉन, जो बल्क संख्या-क्रंचिंग करता है। जॉन की टीम पहले से ही बहुस्तरीय-पर्सेप्ट्रॉन आधे को लुकअप-आधारित समकक्ष के साथ बदल चुकी है। ध्यान परत अभी भी हल नहीं हुई है।
यह तकनीक भी नई नहीं है: यूनाइटेड किंगडम की एक कंपनी ने पैटर्न मान्यता के लिए 1980 के दशक में इसका उपयोग करके एक वाणिज्यिक उत्पाद बनाया था, फिर यह दृष्टिकोण काफी हद तक गायब हो गया। रियो डी जनेरियो के संघीय विश्वविद्यालय के शोधकर्ताओं ने वर्षों तक इस विचार को शांति से जीवित रखा। जॉन का योगदान इसे वास्तविक हार्डवेयर पर कुशलतापूर्वक चलाना है, पहले एक एफपीजीए पर, एक लचकदार चिप जिसे विभिन्न कार्यों के लिए पुनः कॉन्फ़िगर किया जा सकता है, और अब उद्देश्य-निर्मित सबस्ट्रेट पर।
प्रशिक्षण अभी भी पारंपरिक जीपीयू पर होती है, विशेष संख्या-क्रंचिंग चिप्स जो अधिकांश एआई अनुसंधान को शक्ति देते हैं। लेकिन क्योंकि एफपीजीए पहले से ही डिजाइन के आधार पर छोटी लुकअप टेबल रखते हैं, जॉन का विश्वास है कि वे अंततः प्रशिक्षण को भी संभाल सकते हैं, लूप को बंद कर सकते हैं।
ईमानदार सावधानी: अब तक का हर परिणाम छोटे, विशिष्ट कार्यों से आता है। बड़े पैमाने की भाषा मॉडल के लिए कोई समीक्षित-प्रकाशित प्रदर्शन अभी तक मौजूद नहीं है। जॉन उस अंतराल के बारे में स्पष्ट है। आत्मविश्वास कि यह बस स्केल करेगा, उसकी अपनी प्रयोगशाला के बाहर अभी तक वहां नहीं है।
