Поддельные врачи на базе ИИ набирают миллионы просмотров на TikTok с ложными медицинскими советами
Компьютерные симуляции врачей выглядят убедительно и могут обмануть зрителей. Врачи встревожены.
Ключевые моменты
- Персонажи врачей, созданные с помощью ИИ, на TikTok набирают миллионы просмотров, распространяя сомнительные медицинские утверждения.
- Британская медицинская ассоциация назвала эти учетные записи "огромной угрозой для общественной безопасности".
- Эксперты предупреждают, что эти учетные записи продвигают "медицинские мифы" и поддельные чудо-лекарства среди обычных зрителей.
- В настоящее время на платформе отсутствует надежная система маркирования ИИ-генерируемого медицинского контента.
Исследователь открывает видео на TikTok. На экране уверенный врач объясняет медицинское средство спокойным и ясным языком. Учетная запись имеет миллионы просмотров. Этот врач не существует.
Это персонажи, созданные ИИ — цифровые персонажи, построенные с помощью инструментов искусственного интеллекта, которые могут создавать реалистичные человеческие лица, голоса и манеры с нуля. Они выглядят как настоящие люди. Они звучат авторитетно. И, согласно новому исследованию, впервые выявленному The Guardian, они распространяют медицинские советы, которые эксперты называют откровенно неправильными.
Почему это важно для обычных людей?
Потому что большинство зрителей не могут видеть разницу, и такой совет может нанести реальный вред.
Др Эмма Рансвик, заместитель председателя совета Британской медицинской ассоциации (главного профессионального органа, представляющего врачей по всему Соединенному Королевству), предупредила, что эти учетные записи "распространяют медицинские мифы и продвигают так называемые чудо-лекарства". Ее слова были прямыми: вводящие в заблуждение заявления о здоровье в интернете представляют "огромную угрозу для общественной безопасности".
Представьте себе человека с новым диагнозом, прокручивающего TikTok поздно вечером. Появляется отполированное видео с тем, кто выглядит как врач, предлагающий простое решение. Этот зритель может отложить визит к настоящему врачу, прекратить прием назначенного лекарства или потратить деньги на продукт, который ничего не дает.
В этом заключается практическая опасность.
Как эти видео получают так много просмотров?
Алгоритм TikTok, система, определяющая, какие видео показывать каждому пользователю, вознаграждает контент, который держит людей в напряжении. Контент о здоровье, особенно обещающий простой ответ на сложную проблему, обычно работает хорошо. Инструменты ИИ теперь позволяют дешево и быстро производить отполированные видео в большом количестве, что означает, что злоумышленники могут наводнить платформу десятками клипов за время, которое когда-то требовалось для съемки одного видео.
Лица генерируются, голоса синтезируются, а сценарии написаны или сформированы с помощью ИИ. Ничего из этого не требует настоящего врача, настоящей студии или большого количества денег.
Что зрители на самом деле должны делать?
Относитесь с большим скептицизмом к любому медицинскому совету на платформах с короткими видео, независимо от того, выглядит ли ведущий как человек или нет.
Несколько практических проверок помогут. Поищите в учетной записи проверяемую реальную личность: имя, которое вы можете найти в медицинском реестре, профиль больницы или профессиональную организацию. Если его нет, это сигнал тревоги. Проверьте, появляется ли заявленное лечение на веб-сайте авторитетной службы здравоохранения. Если сомневаетесь, проконсультируйтесь с настоящим врачом, прежде чем что-либо менять в своем лечении.
Регуляторы и платформы еще не справились с тем, как быстро распространяется ИИ-генерируемый контент. Пока они не сделают этого, бремя скептицизма падает на зрителя.
Часто задаваемые вопросы
Может ли TikTok автоматически обнаруживать видео о здоровье, созданные ИИ?
Не надежно. TikTok имеет инструменты для маркирования некоторого ИИ-генерируемого контента, но они не ловят все, и учетные записи, активно пытающиеся выглядеть реально, могут пройти сквозь сито. Исследование, упомянутое здесь, обнаружило миллионы просмотров на учетных записях, которые не были отмечены.
Законно ли смотреть такой контент?
Нет, но создание и распространение намеренной медицинской дезинформации может нарушить правила платформы и, в зависимости от страны и конкретного утверждения, привлечь внимание регулирующих органов. На данный момент правоприменение носит неравномерный характер.
