Google afferma che i suoi strumenti hanno aiutato a creare 100 miliardi di immagini AI. Una filigrana può etichettarle, ma può fermare il danno?

Punti chiave

• Starling Lab, una collaborazione di ricerca della Stanford University e dell'University of Southern California, stima che l'umanità ha impiegato 149 anni per produrre 1,5 miliardi di fotografie; l'intelligenza artificiale generativa ha raggiunto lo stesso risultato in 18 mesi.
• Google ha annunciato alla sua conferenza degli sviluppatori I/O questa primavera che i suoi strumenti hanno aiutato a creare più di 100 miliardi di immagini e video AI in soli un paio di anni.
• Google sta espandendo le partnership intorno a SynthID, la sua tecnologia per etichettare i contenuti generati da AI, in modo che più piattaforme possano utilizzarla.
• SynthID può etichettare il contenuto AI al momento della creazione, ma l'etichetta non può impedire che le immagini false si diffondano prima che qualcuno le verifichi.

Mettiamo un numero: l'umanità ha scattato fotografie per 149 anni prima di raggiungere 1,5 miliardi di immagini. L'intelligenza artificiale generativa, un software che crea foto, video e audio da un prompt di testo, ha superato la stessa soglia in 18 mesi. Questi dati provengono da Starling Lab, una collaborazione di ricerca gestita congiuntamente dalla Stanford University e dall'University of Southern California che studia come i media digitali vengono autenticati.

Poi è arrivato Google con un numero ancora più grande. Alla sua conferenza I/O questa primavera, l'azienda ha dichiarato che i suoi strumenti sono stati utilizzati per produrre più di 100 miliardi di immagini e video AI nel corso di soli un paio di anni. Secondo quanto riportato per la prima volta da Ars Technica AI, questa cifra copre esclusivamente i prodotti di Google. Dozzine di altre aziende gestiscono anche generatori di immagini e video.

Cos'è SynthID e come funziona?

SynthID è la risposta di Google a una domanda semplice: una volta che un'immagine AI esiste, come sa chiunque che è falsa? Lo strumento incorpora una filigrana invisibile, un segnale nascosto intessuto nei pixel o nei dati audio, nel contenuto nel momento in cui i sistemi di Google lo creano. Un rilevatore separato può poi leggere quel segnale in seguito.

La filigrana sopravvive a una quantità sorprendente di abusi. Il ritaglio, i filtri di colore e il re-salvataggio degli screenshot generalmente la lasciano intatta.

Google ha utilizzato l'annuncio I/O per confermare nuove partnership che avrebbero diffuso SynthID su più piattaforme, il che significa che più contenuti AI creati altrove potrebbero portare l'etichetta.

Quindi il problema è risolto?

Neanche lontanamente. Una filigrana è un'etichetta, non un lucchetto.

Il contenuto che porta un'etichetta SynthID può comunque diffondersi sui social media, sulle app di messaggistica e sui feed di notizie molto prima che un rilevatore lo scansioni. La maggior parte delle persone ordinarie non ha modo di eseguire un controllo da sola, e alle piattaforme non è richiesto di visualizzare un avviso anche se potrebbero.

C'è anche il contenuto che non viene mai etichettato. SynthID contrassegna solo ciò che i tool di Google producono. Qualsiasi immagine creata con un generatore rivale, o con software open-source più vecchio che chiunque può scaricare ed eseguire localmente, non porta alcuna filigrana.

Cosa dovrebbero osservare i lettori?

La tecnologia di etichettatura è genuinamente utile e vale la pena averla. Ma il volume è la vera storia qui. Quando gli strumenti di una singola azienda possono produrre 100 miliardi di contenuti sintetici in due anni, il rischio realistico non è un unico deepfake convincente; è un oceano di contenuti falsi che sembra plausibile e che sovrasta la capacità umana di metterlo in discussione.

Alcune abitudini pratiche aiutano. Usa la ricerca inversa di immagini per ogni foto che sembra progettata per provocare una forte reazione. Controlla se una storia appare su più di una fonte credibile prima di condividerla. Se un video mostra qualcuno che dice qualcosa di scioccante, cerca una trascrizione di testo da un giornalista nominato prima di fidarti.

La filigrana è un punto di partenza. Lo scetticismo è ancora lo strumento migliore.