एआई लंबे कार्यों में फंस जाता है (और Apple का नया समाधान)
शोधकर्ताओं को पता चला कि किसी जटिल समस्या को बहुत छोटे कदमों में तोड़ देने से एआई एक ऐसी गलती में फंस सकता है जिससे निकलना असंभव है। LEAD नामक एक नई विधि एक संक्षिप्त आगे की जांच जोड़ती है जो इसे ठीक होने में मदद करती है।
मुख्य बिंदु
- Apple ML Research ने एक अध्ययन प्रकाशित किया जो दर्शाता है कि वर्तमान बड़े भाषा मॉडल लंबे, बहु-चरणीय तर्क कार्यों को विश्वसनीय रूप से पूरा करने में विफल होते हैं, भले ही उन्हें पालन करने के लिए एक स्पष्ट योजना दी गई हो।
- विफलता यादृच्छिक नहीं है: एक छोटी संख्या में "कठिन" कदम लगभग सभी त्रुटियों का कारण बनते हैं, और एक बार जब एआई उनमें से किसी एक पर फिसलता है, तो यह शायद ही कभी ठीक हो पाता है।
- किसी कार्य को बहुत छोटे कदमों में विभाजित करने से समस्या बदतर हो जाती है, क्योंकि अगले कदम इसे सुरक्षित करने से पहले गलती को सुधारने की कोई गुंजाइश नहीं है।
- LEAD (Lookahead-Enhanced Atomic Decomposition) नामक एक नई तकनीक प्रत्येक कदम के बाद एक संक्षिप्त आगे की जांच जोड़ती है ताकि त्रुटियों को स्थायी बनने से पहले पकड़ा जा सके।
- शोध को नियंत्रित पहेली कार्यों पर परीक्षण किया गया था, इसलिए वास्तविक दुनिया के परिणामों के लिए आगे के अध्ययन की आवश्यकता होगी।
कल्पना कीजिए कि आप एक बहुत ही सक्षम सहायक को 40-कदम के निर्देश पत्र का पालन करके फ्लैट-पैक फर्नीचर इकट्ठा करने के लिए कहते हैं। वह तीक्ष्ण, प्रेरित है, और उसके पास पूरी योजना है। लेकिन तीन कदम ऐसे हैं जो वास्तव में मुश्किल हैं। उनमें से एक को मिस करें और हर बाद का कदम एक टेढ़े फ्रेम पर बना होता है। 35वें कदम तक पूरी चीज़ बर्बाद हो जाती है।
यह, मोटे तौर पर, वह समस्या है जिसे Apple ML Research ने सूक्ष्मदर्शी के तहत रखा है।
वास्तव में क्या गलत हो रहा है?
बड़े भाषा मॉडल, ChatGPT और Claude जैसे चैटबॉट के पीछे की एआई प्रणालियां, लंबी तर्क श्रृंखलाओं को बिना किसी गलती के पूरा करने में संघर्ष करती हैं। उन्हें एक उच्च-स्तरीय रणनीति देना मदद करता है, लेकिन यह समस्या को पूरी तरह से हल नहीं करता है।
Apple टीम को कुछ विशिष्ट मिला। त्रुटियां किसी कार्य में समान रूप से नहीं फैलती हैं। एक मुट्ठी भर कदम लगभग सभी विफलताओं के लिए जिम्मेदार हैं। उन "कठिन" कदमों में से किसी एक को मिस करें और एआई के पास कोई रास्ता नहीं है।
शोधकर्ताओं में यह प्रवृत्ति रही है कि कार्यों को छोटे और छोटे टुकड़ों में विभाजित किया जाए ताकि एआई को एक समय में केवल एक छोटी चीज़ के बारे में सोचना पड़े। ठीक है। लेकिन अध्ययन से पता चलता है कि बहुत दूर जाने से जो शोधकर्ता "नो-रिकवरी बॉटलनेक" कहते हैं, वह बनता है: प्रत्येक टुकड़ा इतना छोटा और अगले से इतना कठोरता से जुड़ा होता है कि एक भी गलत कदम तुरंत श्रृंखला में सीमेंट हो जाता है।
LEAD वास्तव में क्या करता है?
इस समाधान को LEAD कहा जाता है, जो Lookahead-Enhanced Atomic Decomposition का संक्षिप्त रूप है। यह छोटे-कदम के दृष्टिकोण को बनाए रखता है लेकिन प्रत्येक कदम के बाद एक संक्षिप्त आगे की जांच जोड़ता है।
किसी कदम के लिए प्रतिबद्ध होने से पहले, सिस्टम कुछ कदमों आगे देखता है यह पूछने के लिए: क्या यह पथ अभी भी कहीं उचित की ओर ले जाता है? यदि नहीं, तो यह त्रुटि को स्थायी बनने से पहले समायोजन कर सकता है। इसे इस रूप में सोचें कि एआई अपना टुकड़ा रखने से पहले बोर्ड पर अगले कुछ वर्गों को संक्षेप में स्कैन कर रहा है।
शोधकर्ताओं ने एल्गोरिदम पहेलियों पर LEAD का परीक्षण किया, स्पष्ट सही-गलत उत्तरों के साथ नियंत्रित कार्य, जिससे यह मापना आसान हो गया कि चीजें ठीक कहां टूट गईं।
क्या किसी को अभी इस पर कार्य करना चाहिए?
अभी नहीं। यह एक शोध पत्र है, उत्पाद अपडेट नहीं। परीक्षणों में संरचित पहेलियों का उपयोग किया गया था, और पहेली प्रदर्शन हमेशा उन गंदे, खुले-अंत वाले कार्यों में स्वच्छता से अनुवाद नहीं करता है जो वास्तविक उपयोगकर्ता एआई सहायकों को देते हैं।
यह हमें बताता है कि एआई सुधार की अगली लहर मॉडलों को बड़ा बनाने से नहीं, बल्कि कार्य के दौरान उनके अपने काम की जांच करने में बेहतर बनाने से आ सकती है। यह किसी के लिए भी महत्वपूर्ण है जो एआई को कई कदमों के साथ कुछ संभालने के लिए कहता है: एक लंबी रिपोर्ट लिखना, कोड को डीबग करना, या एक परियोजना की योजना बनाना।
देखें कि क्या यह तकनीक (या इसी तरह की कोई चीज़) बड़ी प्रयोगशालाओं के भविष्य के मॉडल अपडेट में दिखाई देती है।
सामान्य प्रश्न
क्या यह आज मेरे द्वारा उपयोग किए जाने वाले एआई उपकरणों को प्रभावित करता है?
सीधे तौर पर नहीं। LEAD एक शोध तकनीक है, अभी तक किसी भी उपभोक्ता उत्पाद में एक शिप किया गया सुविधा नहीं। वर्तमान उपकरण अभी भी उस बॉटलनेक से पीड़ित हैं जिसे पत्र लंबे या जटिल कार्यों पर विशेष रूप से वर्णित करता है।
वास्तविक कार्यों के बजाय पहेलियों पर परीक्षण क्यों किया?
पहेलियों के निश्चित सही उत्तर होते हैं, जो शोधकर्ताओं को यह मापने देता है कि एआई कितनी बार विफल होता है और कहां। वास्तविक दुनिया के कार्यों को सटीक रूप से स्कोर करना कठिन है, इसलिए पहेलियां उपयोगी प्रथम साबित मैदान हैं।
