Il nuovo watermark AI di Meta sta già fallendo i test di base

Punti chiave

• Meta ha lanciato Content Seal nel luglio 2025, un watermark invisibile applicato solo alle immagini create dal suo nuovo generatore di immagini Muse.
• Reuters ha testato Content Seal nel 2025 e ha scoperto che non riusciva a rilevare più della metà delle immagini generate da Muse dopo essere state ritagliate.
• Quando un'immagine di test è stata inserita nell'assistente IA Gemini di Google e nel portale di rilevamento ufficiale C2PA, nessuno dei due strumenti ha confermato che l'immagine era generata da IA.
• Meta offre strumenti di generazione di immagini con IA dal 2023, il che significa che anni di output non possono essere identificati dal suo nuovo sistema.
• La tecnologia di watermarking SynthID di Google è già stata adottata da OpenAI, ma Meta ha scelto di costruire un sistema separato e incompatibile.

Meta, la società dietro Facebook e Instagram, ha annunciato silenziosamente un nuovo strumento a luglio chiamato Content Seal. L'idea è semplice: ogni immagine creata dal generatore di immagini AI di Meta, Muse, riceve un timbro invisibile incorporato nell'immagine. Non puoi vederlo, ma uno strumento di rilevamento può leggerlo e dirti che l'immagine è stata creata dall'IA.

Il watermarking invisibile non è una novità. Google gestisce già un sistema chiamato SynthID che funziona allo stesso modo, e OpenAI lo utilizza anche. Esiste anche uno standard industriale separato chiamato C2PA Content Credentials, che è una sorta di certificato digitale di provenienza che accompagna un file immagine, e Meta siede già nella commissione direttiva che lo promuove.

Allora perché costruire un altro sistema da zero?

Meta non ha dato una risposta chiara. Ciò che ha fornito è uno strumento con alcuni notevoli difetti.

Al momento, Content Seal copre solo le immagini di Muse. Non copre video. Non copre nulla creato con i vecchi strumenti AI di Meta, che generano immagini dal 2023. Lo strumento di rilevamento è un sito web separato che gli utenti devono visitare da soli. Non è integrato in Meta AI, il chatbot dell'azienda, come il rilevamento di Google è integrato in Gemini.

Meta inoltre limita quante volte al giorno qualcuno può controllare le immagini. Questo limite giornaliero ha senso da un punto di vista della sicurezza, ma va contro l'obiettivo di rendere il rilevamento facile su larga scala. C2PA non ha tale limite.

Il problema più grande è la compatibilità. Quando The Verge ha eseguito un test pratico e ha inserito un'immagine generata da Muse in Gemini di Google e nel portale di controllo ufficiale C2PA, nessuno dei due strumenti l'ha segnalata come creata dall'IA. Content Seal, per ora, essenzialmente parla solo con se stesso.

Una portavoce di Meta, Faith Eischen, ha detto a The Verge che l'azienda sta "esplorando modi per avvicinare il rilevamento a dove le persone incontrano contenuti generati dall'IA" ed è "determinata a lavorare con i colleghi del settore." Questo linguaggio segnala che il lavoro non è completato.

Reuters ha trovato le prestazioni nel mondo reale del sistema ancora più deboli: Content Seal non è riuscito a identificare più della metà delle immagini generate da Muse una volta ritagliate. Il ritaglio è uno degli edit più basilari che chiunque fa a una foto.

Gli utenti ordinari dovrebbero fidarsi di Content Seal per proteggerli?

Non ancora, e non da solo. Il sistema è troppo ristretto in ciò che copre, troppo isolato dagli strumenti che usano altre aziende, e troppo facile da compromettere con un semplice ritaglio.

Se vedi un'immagine su Facebook o Instagram con un'etichetta "IA", quell'etichetta potrebbe provenire da segnali di metadati piuttosto che da Content Seal da solo. Su altre piattaforme, le immagini generate da Muse potrebbero non avere nessuna etichetta.

Cosa tenere d'occhio:

• Un'etichetta IA su un post non significa che ogni immagine creata dall'IA sia stata rilevata. L'assenza di un'etichetta non è prova che un'immagine sia vera.
• La ricerca inversa di immagini in Google o un sito dedicato di verifica dei fatti è ancora il tuo controllo iniziale più affidabile.
• Le immagini ritagliate o ridimensionate sono più difficili da leggere per qualsiasi sistema di watermark, quindi tratta le immagini pesantemente modificate con scetticismo extra.

I ricercatori di Reuters e il team di The Verge AI sono quelli che hanno portato alla luce questi difetti. Credito dove è dovuto.