Falsi medici AI accumulano milioni di visualizzazioni su TikTok con consigli sanitari bugiardi

Punti chiave

• I profili di medici generati da AI su TikTok stanno ottenendo milioni di visualizzazioni diffondendo affermazioni sanitarie dubbie.
• L'Associazione Medica Britannica ha segnalato questi account come un "enorme pericolo per la sicurezza pubblica".
• Gli esperti avvertono che gli account promuovono "miti medici" e false cure miracolose al pubblico ordinario.
• Attualmente non esiste un sistema a livello di piattaforma che etichetti in modo affidabile i contenuti sanitari generati da AI.

Un ricercatore apre un video TikTok. Sullo schermo, un medico dall'aspetto sicuro di sé spiega un rimedio sanitario con un linguaggio chiaro e tranquillo. L'account ha milioni di visualizzazioni. Il medico non esiste.

Si tratta di persone generate da AI, caratteri digitali creati con strumenti di intelligenza artificiale in grado di produrre volti, voci e modi di fare realistici da zero. Sembrano persone vere. Suonano autorevoli. E secondo una nuova ricerca, riportata per la prima volta dal The Guardian, stanno diffondendo consigli medici che gli esperti dicono essere semplicemente sbagliati.

Perché è importante per le persone comuni?

Perché la maggior parte degli spettatori non riesce a fare la differenza, e i consigli possono causare veri danni.

La Dott.ssa Emma Runswick, vice presidente del consiglio dell'Associazione Medica Britannica (l'organo professionale principale che rappresenta i medici nel Regno Unito), ha avvertito che questi account "diffondono miti medici e promuovono le cosiddette cure miracolose". Le sue parole sono state dirette: le affermazioni sanitarie fuorvianti online rappresentano un "enorme pericolo per la sicurezza pubblica".

Immagina qualcuno con una diagnosi recente che scorre TikTok a tardi la notte. Appare un video raffinato, che presenta quello che sembra un medico, che offre una soluzione semplice. Quello spettatore potrebbe rimandare una visita a un vero clinico, interrompere i farmaci prescritti, o spendere soldi per un prodotto che non serve a nulla.

Questo è il pericolo pratico qui.

Come questi video stanno ottenendo così tante visualizzazioni?

L'algoritmo di TikTok, il sistema che decide quali video mostrare a ogni utente, premia i contenuti che mantengono le persone a guardare. I contenuti sanitari, soprattutto quelli che promettono una risposta semplice a un problema difficile, tendono a ottenere buoni risultati. Gli strumenti di AI ora rendono economico e veloce produrre video dall'aspetto raffinato su larga scala, il che significa che gli attori malintenzionati possono inondare la piattaforma con decine di clip nel tempo che una volta ci voleva per girarne uno.

I volti sono generati, le voci sono sintetizzate, e gli script sono scritti o plasmati da AI. Niente di tutto questo richiede un vero medico, uno studio vero, o molti soldi.

Cosa dovrebbero fare davvero gli spettatori?

Trattare qualsiasi consiglio sanitario sulle piattaforme di video brevi con vero scetticismo, indipendentemente dal fatto che il presentatore sembri umano.

Alcuni controlli pratici aiutano. Cerca nell'account un'identità verificabile nel mondo reale: un nome che puoi trovare in un registro medico, un profilo ospedaliero, o un'organizzazione professionale. Se non ce n'è uno, è un segnale di avvertimento. Verifica se il trattamento affermato appare sul sito web di un servizio sanitario affidabile. In caso di dubbio, consulta un vero clinico prima di cambiare qualcosa sulla tua assistenza.

Le autorità di regolamentazione e le piattaforme non hanno ancora tenuto il passo con la velocità con cui si diffonde il contenuto generato da AI. Fino a che non lo faranno, l'onere dello scetticismo ricade sullo spettatore.

Domande comuni

TikTok riesce a rilevare automaticamente i video sanitari generati da AI?

Non in modo affidabile. TikTok dispone di strumenti per etichettare alcuni contenuti generati da AI, ma non catturano tutto, e gli account che cercano attivamente di sembrare reali possono passare inosservati. La ricerca citata qui ha trovato milioni di visualizzazioni su account che non erano stati contrassegnati.

È illegale guardare questo tipo di contenuto?

No, ma creare e diffondere deliberatamente disinformazione medica può violare le regole della piattaforma e, a seconda del paese e dell'affermazione specifica, potrebbe attirare l'attenzione delle autorità di regolamentazione. Per ora, l'applicazione è sporadica.