TikTok sta testando uno strumento per cercare versioni deepfake di te create con l'IA

Punti chiave

• TikTok ha iniziato a testare uno strumento di scansione dei deepfake facoltativo con alcuni creator statunitensi nel luglio 2026.
• I creator devono verificare la loro identità attraverso un'azienda di terze parti chiamata Jumio prima che lo strumento si attivi.
• TikTok afferma di non conservare i documenti d'identità e i dati facciali vengono utilizzati solo per abbinare la somiglianza di un creator.
• YouTube ha lanciato uno strumento simile per tutti gli utenti adulti nello stesso periodo.

Un deepfake è un video o clip audio falso generato dall'IA che può far sembrare che una persona reale abbia detto o fatto qualcosa che non ha mai fatto. TikTok sta ora testando uno strumento che scansiona la sua stessa piattaforma per trovare questi falsi, in particolare quando utilizzano il volto o la voce di un creator senza autorizzazione.

La funzione è facoltativa, il che significa che nessuno viene registrato automaticamente. Al momento è disponibile solo per "alcuni" creator statunitensi, ha dichiarato a The Verge, che per primo ha riportato il test, Zachary Kizer, portavoce di TikTok negli Stati Uniti.

Prima che la scansione possa essere eseguita, un creator deve provare chi è. Ciò significa passare per Jumio, un'azienda di verifica dell'identità, con un selfie in tempo reale e un controllo del documento d'identità governativo. Sembra invasivo, ma Kizer è stato specifico: "TikTok non conserva i documenti d'identità e le informazioni facciali vengono utilizzate solo per l'abbinamento della somiglianza e per aiutare a identificare i potenziali usi non autorizzati della somiglianza di un creator".

In termini semplici: TikTok utilizza la scansione del tuo volto per trovare gli impostori, quindi elimina i dati dell'ID.

Una volta verificato, il sistema di TikTok scansiona la piattaforma alla ricerca di contenuti generati dall'IA che potrebbero utilizzare la somiglianza di quel creator. Il creator rivede quindi i risultati e può segnalare post o account sospetti direttamente a TikTok.

Questo è importante al di là dei famosi influencer. Qualsiasi creator, incluso un allenatore fitness di provincia o un critico gastronomico locale, potrebbe trovare il proprio volto incollato su contenuti che non ha mai creato. Strumenti come questo danno alle persone ordinarie un modo per segnalare il problema invece di sperare che la piattaforma se ne accorga.

TikTok non è solo in questo. YouTube ha costruito un sistema comparabile e lo ha aperto a tutti gli utenti adulti nello stesso periodo, offrendo ai creator su quella piattaforma un modo per richiedere la rimozione di contenuti generati dall'IA che imitano il loro aspetto o la loro voce.

Nessuno dei due strumenti è una soluzione completa. Entrambi si affidano al fatto che i creator conoscono l'esistenza dello strumento, lo scelgono e controllano attivamente i risultati. L'onere ricade comunque principalmente sulla persona la cui somiglianza è stata rubata, non sulla persona che ha creato il falso.

Cosa dovrebbero fare i creator adesso?

Se pubblichi regolarmente su TikTok, controlla se hai accesso alla nuova funzione di scansione nelle impostazioni del tuo account. Se non è ancora presente, probabilmente sei fuori dal gruppo di test attuale e non è stato annunciato un rollout più ampio. Nel frattempo, cercare occasionalmente il tuo nome su TikTok e segnalare qualsiasi contenuto sospetto tramite il pulsante di segnalazione standard rimane la tua opzione migliore.

Il test segnala che le piattaforme stanno iniziando a trattare l'abuso di deepfake come un problema di infrastruttura, non solo come un ripensamento della moderazione dei contenuti. La velocità con cui questo si estende è la domanda che vale la pena seguire.