नकली एआई डॉक्टर टिकटॉक पर लाखों व्यूज जमा कर रहे हैं और झूठी स्वास्थ्य सलाह दे रहे हैं

मुख्य बातें

• टिकटॉक पर एआई-जनरेट किए गए डॉक्टर व्यक्तित्व लाखों व्यूज प्राप्त कर रहे हैं और संदिग्ध स्वास्थ्य दावे फैला रहे हैं।
• ब्रिटिश मेडिकल एसोसिएशन ने इन खातों को "सार्वजनिक सुरक्षा के लिए विशाल खतरा" के रूप में चिह्नित किया है।
• विशेषज्ञ चेतावनी देते हैं कि ये खाते "चिकित्सा मिथक" और नकली चमत्कार इलाज को सामान्य दर्शकों के लिए बढ़ावा देते हैं।
• वर्तमान में कोई भी प्लेटफॉर्म-व्यापी प्रणाली नहीं है जो एआई-जनरेट की गई स्वास्थ्य सामग्री को विश्वसनीय रूप से लेबल करती है।

एक शोधकर्ता एक टिकटॉक वीडियो खोलते हैं। स्क्रीन पर, एक आत्मविश्वासी दिखने वाला डॉक्टर स्पष्ट, शांत भाषा में एक स्वास्थ्य उपचार समझाता है। खाते के लाखों व्यूज हैं। डॉक्टर मौजूद नहीं है।

ये एआई-जनरेट किए गए व्यक्तित्व हैं, डिजिटल चरित्र कृत्रिम बुद्धिमत्ता उपकरणों के साथ निर्मित हैं जो शून्य से यथार्थवादी दिखने वाले मानव चेहरे, आवाजें और व्यवहार उत्पन्न कर सकते हैं। वे वास्तविक लोगों की तरह दिखते हैं। वे आधिकारिक लगते हैं। और नए शोध के अनुसार, जिसे पहली बार द गार्जियन द्वारा चिह्नित किया गया था, वे चिकित्सा सलाह फैला रहे हैं जो विशेषज्ञ कहते हैं कि बिल्कुल गलत है।

यह साधारण लोगों के लिए क्यों महत्वपूर्ण है?

क्योंकि अधिकांश दर्शक अंतर नहीं बता सकते, और सलाह से वास्तविक नुकसान हो सकता है।

डॉ. एम्मा रन्सविक, ब्रिटिश मेडिकल एसोसिएशन परिषद के उप-सभापति (यूके भर में डॉक्टरों का प्रतिनिधित्व करने वाली मुख्य व्यावसायिक संस्था), ने चेतावनी दी कि ये खाते "चिकित्सा मिथक को बढ़ावा देते हैं और तथाकथित चमत्कार इलाज को बढ़ावा देते हैं।" उनके शब्द सीधे थे: ऑनलाइन गुमराह करने वाले स्वास्थ्य दावे "सार्वजनिक सुरक्षा के लिए विशाल खतरा" पोस करते हैं।

किसी को सोचें जिसे नया निदान मिला है और वह रात देर से टिकटॉक स्क्रॉल कर रहा है। एक पॉलिश वीडियो सामने आता है, जिसमें एक डॉक्टर जैसा दिखने वाला व्यक्ति है, जो एक सरल समाधान प्रदान करता है। वह दर्शक एक वास्तविक चिकित्सक से मिलना विलंबित कर सकता है, निर्धारित दवा बंद कर सकता है, या किसी ऐसे उत्पाद पर पैसा खर्च कर सकता है जो कुछ नहीं करता।

यह यहां व्यावहारिक खतरा है।

ये वीडियो इतने सारे व्यूज कैसे प्राप्त कर रहे हैं?

टिकटॉक का एल्गोरिदम, वह प्रणाली जो तय करती है कि प्रत्येक उपयोगकर्ता को कौन से वीडियो दिखाने हैं, उन सामग्री को पुरस्कृत करता है जो लोगों को देखते रहने के लिए प्रेरित करती है। स्वास्थ्य सामग्री, विशेषकर कुछ भी जो एक कठिन समस्या का आसान समाधान देने का वादा करता है, आमतौर पर अच्छा प्रदर्शन करता है। एआई उपकरण अब बड़े पैमाने पर पॉलिश दिखने वाले वीडियो बनाने को सस्ता और तेज़ बनाते हैं, जिसका मतलब है कि बुरे अभिनेता दर्जनों क्लिप से प्लेटफॉर्म को भर सकते हैं।

चेहरे जनरेट किए गए हैं, आवाजें संश्लेषित की गई हैं, और स्क्रिप्ट लिखी गई हैं या एआई द्वारा आकार दिया गया है। इसमें से कुछ भी एक वास्तविक डॉक्टर, एक वास्तविक स्टूडियो, या बहुत अधिक पैसे की आवश्यकता नहीं है।

दर्शकों को वास्तव में क्या करना चाहिए?

लघु-वीडियो प्लेटफॉर्म पर किसी भी स्वास्थ्य सलाह के साथ वास्तविक संदेह के साथ व्यवहार करें, चाहे प्रस्तुतकर्ता मानव दिखे या नहीं।

कुछ व्यावहारिक जांचें मदद करती हैं। खाते में एक सत्यापन योग्य वास्तविक दुनिया की पहचान की खोज करें: एक नाम जिसे आप चिकित्सा रजिस्टर, एक अस्पताल प्रोफाइल, या एक व्यावसायिक संगठन पर पा सकते हैं। यदि कोई नहीं है, तो यह एक चेतावनी संकेत है। जांचें कि क्या दावा किया गया उपचार एक प्रतिष्ठित स्वास्थ्य सेवा वेबसाइट पर दिखाई देता है। जब संदेह हो, तो अपनी देखभाल में कुछ भी बदलने से पहले एक वास्तविक चिकित्सक से पूछें।

नियामकों और प्लेटफॉर्म ने अभी तक यह पकड़ा नहीं है कि एआई-जनरेट की गई सामग्री कितनी तेजी से फैलती है। जब तक वे ऐसा नहीं करते, संदेह का बोझ दर्शक पर पड़ता है।

सामान्य प्रश्न

क्या टिकटॉक स्वचालित रूप से एआई-जनरेट किए गए स्वास्थ्य वीडियो का पता लगा सकता है?

विश्वसनीय रूप से नहीं। टिकटॉक के पास कुछ एआई-जनरेट की गई सामग्री को लेबल करने के लिए उपकरण हैं, लेकिन वे सब कुछ पकड़ते नहीं हैं, और सक्रिय रूप से वास्तविक दिखने की कोशिश कर रहे खाते से गुजर सकते हैं। यहां उद्धृत शोध ने लाखों व्यूज वाले खातों को पाया जिन्हें चिह्नित नहीं किया गया था।

क्या इस तरह की सामग्री देखना अवैध है?

नहीं, लेकिन जानबूझकर चिकित्सा गलत सूचना बनाना और वितरित करना प्लेटफॉर्म नियमों का उल्लंघन कर सकता है और, देश और विशिष्ट दावे के आधार पर, नियामक ध्यान आकर्षित कर सकता है। फिलहाल, प्रवर्तन अनियमित है।