AI मॉडरेशन टूल दस साल पुरानी Reddit पोस्ट को हटा रहे हैं, और यह सभी सोशल मीडिया के लिए एक चेतावनी है
Reddit के सबसे सम्मानित समुदायों में से एक के भीतर स्वचालित विलोपन की बाढ़ दिखाती है कि जब प्लेटफॉर्म AI-जनित कचरे से लड़ने के लिए अधिक AI का उपयोग करते हैं तो क्या होता है, और वास्तविक लागत उन लोगों पर क्यों आती है जिन्होंने इन समुदायों को बनाया है।
मुख्य बिंदु
- अप्रैल 2025 में, Reddit के सबसे सावधानीपूर्वक संचालित समुदायों में से एक r/AskHistorians से दस साल पहले की दर्जनों पोस्ट और टिप्पणियों को स्वचालित रूप से हटा दिया गया था।
- मॉडरेटर को समस्या का पहली बार तब पता चला जब मॉडरेशन सतर्कताओं को ट्रैक करने के लिए उपयोग किए जाने वाले Slack चैनल को अप्रत्याशित हटाने की सूचनाओं से भर दिया गया।
- AI सामग्री मॉडरेशन टूल, ऐसा सॉफ़्टवेयर जो AI निर्णय के आधार पर पोस्ट को स्वचालित रूप से चिह्नित या हटाता है, न कि मानव द्वारा उन्हें पढ़ने के बाद, सोशल मीडिया प्लेटफॉर्म पर फैल रहे हैं।
- शोधकर्ता और मॉडरेटर चेतावनी देते हैं कि AI-जनित स्पैम से लड़ने के लिए AI का उपयोग वास्तविक, मूल्यवान मानव सामग्री को भी निगल सकता है।
r/AskHistorians के मॉडरेटर Reddit के सबसे कसकर नियंत्रित समुदायों में से एक चलाने पर गर्व करते हैं। इतिहासकार, शिक्षाविद और उत्साही स्रोत, विस्तृत प्रतिक्रियाओं के साथ प्रश्नों का उत्तर देते हैं। मानक ऊंचे हैं। संग्रह वर्षों पीछे जाता है।
इसलिए जब mod टीम आने वाली मॉडरेशन सतर्कताओं को ट्रैक करने के लिए उपयोग करने वाला Slack चैनल अप्रैल में अचानक सैकड़ों सूचनाओं से भर गया, तो कुछ स्पष्ट रूप से गलत था। दर्जनों पोस्ट और टिप्पणियां, कुछ लगभग एक दशक पुरानी, स्वचालित रूप से मिटा दी गईं।
इस विवरण की पहली रिपोर्ट Ars Technica ने की थी।
क्या गलत हुआ?
दोषी स्वचालित सामग्री मॉडरेशन प्रतीत होता है: AI टूल जो पोस्ट को स्कैन करते हैं और किसी भी समस्या को हटाते हैं जिसे वे समस्याग्रस्त के रूप में चिह्नित करते हैं, बिना मानव को अंतिम निर्णय दिए। प्लेटफॉर्म बड़ी संख्या में इन उपकरणों की ओर मुड़ गए हैं क्योंकि AI-जनित स्पैम की मात्रा, जिसे "AI slop" भी कहा जाता है, और घृणित सामग्री बढ़ी है।
तर्क समझदारी भरा है। मानव मॉडरेटर सब कुछ नहीं पढ़ सकते। AI एक मिनट में लाखों पोस्ट प्रक्रिया कर सकता है।
लेकिन AI क्लासिफायर, सिस्टम का वह हिस्सा जो यह तय करता है कि पोस्ट अच्छी है या बुरी, गलतियां करते हैं। उनके पास कोई संदर्भ नहीं है। एक प्रशिक्षित इतिहासकार से दस साल पुरानी प्रतिक्रिया, एक पैटर्न-मिलान प्रणाली को, ताजा उत्पन्न भरने वाली पाठ की तरह लगती है यदि लेखन लंबा और विस्तृत है। सिस्टम दोनों को हटाता है।
यह साधारण उपयोगकर्ताओं के लिए क्यों मायने रखता है?
एक फोरम के बारे में सोचें जिसका आपने एक वास्तविक समस्या को हल करने के लिए उपयोग किया है: एक थ्रेड जिसने एक चिकित्सा लक्षण की व्याख्या की, एक समुदाय जिसने आपको एक टूटे उपकरण को ठीक करने में मदद की, एक स्थानीय समूह जहां लोगों ने साझा किया कि वास्तव में क्या काम करता है।
वह ज्ञान किसी आधिकारिक वेबसाइट पर नहीं रहता है। यह इसलिए मौजूद है क्योंकि विशिष्ट लोगों ने इसे लिखने और साझा करने का विकल्प चुना। स्वचालित हटाना केवल एक पोस्ट को नहीं हटाता है। यह विश्वास को मिटाता है जो किसी को पहली जगह में लिखने का प्रयास करने के लिए प्रेरित करता है।
जब त्रुटिपूर्ण विलोपन बार-बार होते हैं, तो योगदानकर्ता योगदान देना बंद कर देते हैं। समुदाय खोखला हो जाता है। प्लेटफॉर्म कम प्रामाणिक सामग्री के साथ समाप्त होता है जितना वह शुरू करता है, जो मॉडरेशन का उद्देश्य था।
प्लेटफॉर्मों को इसके बजाय क्या करना चाहिए?
ईमानदार जवाब यह है कि अभी तक किसी के पास कोई स्वच्छ समाधान नहीं है। AI उपकरण मानव मॉडरेटर को उनकी कतारों को प्राथमिकता देने में मदद कर सकते हैं, इसे तुरंत हटाने के बजाय संदिग्ध सामग्री को समीक्षा के लिए चिह्नित करते हुए। यह एक व्यक्ति को लूप में रखता है।
प्लेटफॉर्म किसी भी स्वचालित कार्रवाई से पहले दीर्घकालीन योगदानकर्ताओं को एक ग्रेस अवधि भी दे सकते हैं, या हटाने के लिए त्वरित अपील करना आसान बना सकते हैं।
r/AskHistorians घटना जो दर्शाती है वह एक सरल सिद्धांत है: ऐसा स्वचालन जो एक बुरे अभिनेता और एक समर्पित समुदाय सदस्य के बीच अंतर नहीं कर सकता, एक सुरक्षा जाल नहीं है। यह एक ट्रैप डोर है।
सामान्य प्रश्न
क्या हटाई गई पोस्ट को पुनः प्राप्त किया जा सकता है?
कभी-कभी। उचित अनुमति वाले Reddit मॉडरेटर स्वचालित रूप से हटाई गई पोस्ट को पुनर्स्थापित कर सकते हैं, लेकिन केवल अगर वे जल्दी से त्रुटि को पकड़ते हैं और प्लेटफॉर्म की अपनी प्रणाली अभी भी एक प्रति रखती है। पुरानी विलोपन को पूर्ववत करना कठिन है।
क्या यह केवल Reddit को प्रभावित करता है?
नहीं। कोई भी प्लेटफॉर्म जो स्वचालित सामग्री मॉडरेशन का उपयोग करता है, जिसमें अधिकांश बड़े सोशल नेटवर्क शामिल हैं, गति और सटीकता के बीच समान व्यापार का सामना करता है। Reddit की खुली mod संरचना ने इस विशेष विफलता को दृश्यमान बनाया; अन्य अनदेखे जा सकते हैं।
