OpenAI ने कहा कि GPT-2 जारी करना बहुत खतरनाक है। क्या हमें इस पर विश्वास करना चाहिए था?
एक शोधकर्ता की OpenAI की 2019 की सुरक्षा घोषणा को लेकर पुरानी निराशा एक सवाल उठाती है जो आज भी पूछने लायक है: जब कोई AI कंपनी दुनिया को अपनी ही तकनीक के बारे में चेतावनी देती है, तो असल में किसे फायदा होता है?
मुख्य बिंदु
- 14 फरवरी 2019 को, OpenAI ने GPT-2 नाम का एक भाषा मॉडल घोषित किया लेकिन इसे सार्वजनिक रूप से जारी करने से इनकार कर दिया, यह कहते हुए कि दुरुपयोग के जोखिम बहुत बड़े थे।
- GPT-2 उन मॉडलों का सीधा पूर्ववर्ती था जो अब ChatGPT, Claude और इसी तरह के AI चैटबॉट को शक्ति देते हैं।
- कम से कम एक शोधकर्ता को यह घोषणा अनावश्यक और बताए गए जोखिम अत्यधिक लगे।
- यह प्रकरण एक पैटर्न उजागर करता है जिस पर नज़र रखना चाहिए: AI कंपनियां जो खतरे की बात करती हैं, वे शक्ति की भी बात करती हैं और इस प्रक्रिया में निवेशकों को आकर्षित करती हैं।
2019 में वास्तव में क्या हुआ?
OpenAI ने एक भाषा मॉडल बनाया, जो सॉफ़्टवेयर का एक प्रकार है जिसे विशाल मात्रा में पाठ पर प्रशिक्षित किया जाता है ताकि वह लिख सके, सारांश दे सके और सवालों के जवाब दे सके, और फिर इसे दुनिया को घोषित किया जबकि इसे साझा करने से इनकार कर दिया। कंपनी ने मॉडल को GPT-2 कहा और कहा कि यह सार्वजनिक हाथों में देने के लिए बिल्कुल ही जोखिम भरा था।
OpenAI के अनुसार चिंता का विषय दुरुपयोग था। बुरे अभिनेता GPT-2 का उपयोग बड़े पैमाने पर नकली खबरें लिखने के लिए कर सकते थे, या इंटरनेट को विश्वसनीय गलत सूचना से भर सकते थे। सिद्धांत में, यह एक उचित भय था।
व्यावहार में, कम से कम एक शोधकर्ता असंतुष्ट रहा। The Guardian में लिखते हुए, Stanford के शोधकर्ता John Thickstun को याद है कि उस समय वह परेशान महसूस करते थे। वास्तविक मॉडल तक पहुंच के बिना, वह इसका अध्ययन नहीं कर सकते थे, इसे परीक्षण नहीं कर सकते थे या इससे बहुत कुछ सीख नहीं सकते थे। चेतावनी जोरदार थी; पदार्थ, पतला था।
जब कोई AI कंपनी खतरे की बात करती है तो किसे फायदा होता है?
यह अधिक तीक्ष्ण सवाल है, और Thickstun इसे सीधे उठाता है।
दुनिया को बताना कि आपकी तकनीक खतरनाक है, साथ ही चुपचाप दुनिया को यह भी बता रहा है कि आपकी तकनीक शक्तिशाली है। शक्तिशाली तकनीक निवेशकों को आकर्षित करती है। निवेशक बड़े चेक लिखते हैं। वह कंपनी जिसने सभी को अपने डरावने AI के बारे में चेतावनी दी, अब इसका अधिक निर्माण करने के लिए बेहतर फंडेड है।
यह कोई षड्यंत्र नहीं है। यह सिर्फ एक ऐसा प्रोत्साहन है जिस पर ध्यान देने लायक है।
GPT-2 अंततः 2019 के बाद में, चरणबद्ध तरीके से, पूर्ण रूप से जारी किया गया था। OpenAI द्वारा आशंकित विनाशकारी दुरुपयोग किसी स्पष्ट, प्रलेखित लहर में सामने नहीं आया। मॉडल एक अनुसंधान उपकरण बन गया। इसके उत्तराधिकारी, GPT-3 और फिर GPT-4, आज सैकड़ों लाखों लोगों द्वारा उपयोग किए जाने वाले उत्पादों के भीतर इंजन बन गए।
क्या इसका मतलब है कि सुरक्षा चेतावनियां हमेशा गलत होती हैं?
नहीं। कुछ AI जोखिम वास्तविक हैं और कुछ चेतावनियां गंभीर ध्यान देने योग्य हैं। बात यह नहीं है कि हर प्रयोगशाला की हर सावधानी को नकारा जाए।
बात यह है कि पूछा जाए कि कौन बोल रहा है, उन्हें क्या लाभ हो सकता है, और क्या चेतावनी के पीछे का सबूत कुछ ऐसा है जिसे बाहरी लोग वास्तव में जांच सकें। प्रकाशित अनुसंधान और स्वतंत्र समीक्षा द्वारा समर्थित सुरक्षा दावा, कोई मॉडल संलग्न किए बिना एक प्रेस रिलीज़ से एक अलग चीज़ है।
जब कोई AI कंपनी अगली बार घोषणा करे कि उसकी नवीनतम प्रणाली भयभीत करने वाली रूप से सक्षम है और साथ ही साथ साझा करने के लिए बहुत संवेदनशील है, तो रुकना सार्थक है। पूछें कि शोधकर्ता कंपनी के सहयोग के बिना क्या सत्यापित कर सकते हैं। पूछें कि सुर्खियां छपने के बाद निवेश के अगले दौर को कौन फंड करता है। पूछें कि वर्णित खतरा विशिष्ट और मापने योग्य है, या जीवंत और अस्पष्ट है।
जिज्ञासा और संदेह, AI को गंभीरता से लेने के विरोध नहीं हैं। ये वह हैं जो AI को गंभीरता से लेना असल में दिखता है।
