Підроблені AI-лікарі набирають мільйони переглядів на TikTok з фальшивими порадами щодо здоров'я

Ключові моменти

• AI-генеровані персонажі лікарів на TikTok набирають мільйони переглядів, поширюючи сумнівні твердження про здоров'я.
• Британська медична асоціація визначила ці акаунти як «величезну небезпеку для громадської безпеки».
• Експерти попереджають, що акаунти поширюють «медичні міфи» та фальшиві чудо-ліки для звичайних глядачів.
• Наразі на платформі немає системи, яка надійно позначала б AI-генеровані медичні матеріали.

Дослідник відкриває відео на TikTok. На екрані впевнений лікар пояснює лікувальний засіб ясною, спокійною мовою. Акаунт має мільйони переглядів. Цей лікар не існує.

Це AI-генеровані персонажі — цифрові персонажі, створені за допомогою інструментів штучного інтелекту, які можуть створювати реалістичні людські обличчя, голоси та манери поведінки з нуля. Вони виглядають як реальні люди. Вони звучать авторитетно. І згідно з новим дослідженням, про яке спочатку повідомила The Guardian, вони поширюють медичні поради, які експерти вважають абсолютно неправильними.

Чому це має значення для звичайних людей?

Тому що більшість глядачів не можуть розрізнити різницю, а поради можуть завдати реальної шкоди.

Др Емма Рансвік, заступниця голови ради Британської медичної асоціації (основна професійна організація, що представляє лікарів у Великобританії), попередила, що ці акаунти «поширюють медичні міфи та популяризують так звані чудо-ліки». Її слова були прямими: оманливі твердження про здоров'я в Інтернеті становлять «величезну небезпеку для громадської безпеки».

Уявіть когось із новим діагнозом, який гортає TikTok пізно ввечері. З'являється відполірований відеоролик із тим, хто виглядає як лікар, що пропонує просте рішення. Цей глядач може відкласти візит до справжнього клініциста, припинити прийом призначеного лікарства або витратити гроші на продукт, який нічого не дасть.

У цьому полягає практична небезпека.

Як ці відео набирають так багато переглядів?

Алгоритм TikTok, система, яка вирішує, які відео показувати кожному користувачу, винагороджує контент, який утримує людей у перегляді. Контент про здоров'я, особливо той, що обіцяє просте рішення складної проблеми, зазвичай добре виконується. AI-інструменти тепер дозволяють дешево та швидко виробляти відполіровані відеоролики в масштабі, що означає, що недобросовісні актори можуть заповнити платформу десятками кліпів за час, який колись потрібен був для зйомки одного.

Обличчя генеруються, голоси синтезуються, а сценарії написуються або формуються AI. Нічого з цього не вимагає справжнього лікаря, справжньої студії чи багато грошей взагалі.

Що насправді мають робити глядачі?

Ставитися до будь-якої медичної поради на платформах коротких відео з реальним скептицизмом, незалежно від того, виглядає ведучий людиною чи ні.

Кілька практичних перевірок допомагають. Пошукайте в акаунті перевірену реальну ідентичність: ім'я, яке ви можете знайти в медичному реєстрі, профіль лікарні або професійної організації. Якщо його немає, це сигнал тривоги. Перевірте, чи з'являється рекомендований метод лікування на веб-сайті авторитетної служби охорони здоров'я. Коли в сумніві, попросіть пораду справжнього клініциста перед тим, як щось змінити в своєму лікуванні.

Регуляторні органи та платформи ще не наздогнали швидкість поширення AI-генерованого контенту. Доки вони цього не зроблять, тягар скептицизму лежить на глядачі.

Поширені запитання

Чи може TikTok автоматично виявляти AI-генеровані медичні відео?

Не надійно. TikTok має інструменти для позначення деякого AI-генерованого контенту, але вони не ловлять все, і акаунти, які активно намагаються виглядати реально, можуть пройти крізь сітку. Дослідження, про яке йде мова, виявило мільйони переглядів на акаунтах, які не були позначені.

Чи незаконно переглядати такий контент?

Ні, але створення та розповсюдження навмисної медичної дезінформації можуть порушити правила платформи і, залежно від країни та конкретного твердження, могли б привернути увагу регуляторів. Наразі виконання закону фрагментарне.