Des faux médecins IA accumulent des millions de vues sur TikTok avec des conseils de santé bidon

Points clés

• Les personnages de médecin générés par IA sur TikTok accumulent des millions de vues en diffusant des affirmations de santé douteuses.
• L'Association médicale britannique a signalé ces comptes comme un « énorme danger pour la sécurité publique ».
• Les experts avertissent que ces comptes promeuvent des « mythes médicaux » et de faux remèdes miracles auprès des spectateurs ordinaires.
• Il n'existe actuellement aucun système à l'échelle de la plateforme qui étiquette de manière fiable le contenu de santé généré par IA.

Un chercheur ouvre une vidéo TikTok. À l'écran, un médecin d'apparence confiante explique un remède de santé dans un langage clair et calme. Le compte a des millions de vues. Le médecin n'existe pas.

Il s'agit de personnages générés par IA, des personnages numériques créés avec des outils d'intelligence artificielle capables de produire des visages, des voix et des manières humains réalistes à partir de zéro. Ils ressemblent à de vraies personnes. Ils semblent faire autorité. Et selon de nouvelles recherches, d'abord signalées par The Guardian, ils diffusent des conseils médicaux que les experts disent être carrément faux.

Pourquoi est-ce important pour les gens ordinaires ?

Parce que la plupart des spectateurs ne peuvent pas faire la différence, et les conseils peuvent causer de vrais dégâts.

Dr Emma Runswick, vice-présidente du conseil de l'Association médicale britannique (le principal organisme professionnel représentant les médecins au Royaume-Uni), a averti que ces comptes « colportent des mythes médicaux et promeuvent de soi-disant remèdes miracles ». Ses paroles étaient directes : les allégations de santé trompeuses en ligne posent un « énorme danger pour la sécurité publique ».

Imaginez quelqu'un qui vient de recevoir un diagnostic et qui fait défiler TikTok tard le soir. Une vidéo soignée apparaît, mettant en vedette ce qui semble être un médecin, offrant une solution simple. Ce spectateur pourrait retarder une visite chez un vrai clinicien, arrêter un médicament prescrit ou dépenser de l'argent pour un produit qui ne sert à rien.

C'est le danger pratique ici.

Comment ces vidéos accumulent-elles autant de vues ?

L'algorithme de TikTok, le système qui décide quelles vidéos montrer à chaque utilisateur, récompense le contenu qui maintient les gens engagés. Le contenu de santé, en particulier tout ce qui promet une solution facile à un problème difficile, a tendance à bien fonctionner. Les outils IA rendent désormais bon marché et rapide de produire des vidéos polies à grande échelle, ce qui signifie que les mauvais acteurs peuvent inonder la plateforme de dizaines de clips dans le temps qu'il a fallu autrefois pour en tourner une.

Les visages sont générés, les voix sont synthétisées et les scripts sont rédigés ou façonnés par IA. Rien de tout cela ne nécessite un vrai médecin, un vrai studio ou beaucoup d'argent du tout.

Que devraient vraiment faire les spectateurs ?

Traitez tout conseil de santé sur les plates-formes vidéo courtes avec un vrai scepticisme, que le présentateur semble humain ou non.

Quelques contrôles pratiques aident. Cherchez dans le compte une identité réelle vérifiable : un nom que vous pouvez trouver dans un registre médical, un profil hospitalier ou une organisation professionnelle. S'il n'y en a pas, c'est un signal d'alerte. Vérifiez si le traitement prétendu apparaît sur le site Web d'un service de santé réputé. En cas de doute, demandez à un vrai clinicien avant de changer quoi que ce soit dans vos soins.

Les régulateurs et les plates-formes n'ont pas encore rattrapé la rapidité avec laquelle le contenu généré par IA se propage. Jusqu'à ce qu'ils le fassent, le fardeau du scepticisme repose sur le spectateur.

Questions courantes

TikTok peut-il détecter automatiquement les vidéos de santé générées par IA ?

Pas de manière fiable. TikTok dispose d'outils pour étiqueter certains contenus générés par IA, mais ils ne détectent pas tout, et les comptes qui tentent activement de paraître réels peuvent passer à travers. La recherche citée ici a trouvé des millions de vues sur des comptes qui n'avaient pas été signalés.

Est-il illégal de regarder ce type de contenu ?

Non, mais créer et distribuer des informations médicales délibérément trompeuses peut violer les règles de la plateforme et, selon le pays et l'affirmation spécifique, pourrait attirer l'attention des régulateurs. Pour l'instant, l'application des règles est inégale.