Metas neues AI-Wasserzeichen besteht bereits grundlegende Tests nicht

Wichtigste Punkte

• Meta startete Content Seal im Juli 2025, ein unsichtbares Wasserzeichen, das nur auf Bilder des neuen Image-Generators Muse angewendet wird.
• Reuters testete Content Seal 2025 und stellte fest, dass es mehr als die Hälfte der von Muse generierten Bilder nicht erkannte, nachdem sie zugeschnitten worden waren.
• Als ein Testbild in Googles KI-Assistent Gemini und das offizielle C2PA-Erkennungsportal eingegeben wurde, bestätigte kein Tool, dass das Bild KI-generiert war.
• Meta bietet seit 2023 KI-Bildgenerierungstools an, was bedeutet, dass Jahre von Ausgaben von seinem neuen System nicht identifiziert werden können.
• Googles SynthID-Wasserzeichentechnologie wurde bereits von OpenAI übernommen, doch Meta entschied sich dafür, stattdessen ein separates, inkompatibles System zu entwickeln.

Meta, das Unternehmen hinter Facebook und Instagram, kündigte im Juli stillschweigend ein neues Tool namens Content Seal an. Die Idee ist einfach: Jedes Bild, das von Metas KI-Bildgenerator Muse erstellt wird, erhält einen unsichtbaren Stempel, der in das Bild eingebettet ist. Sie können ihn nicht sehen, aber ein Erkennungstool kann ihn lesen und Ihnen sagen, dass das Bild von KI erstellt wurde.

Unsichtbare Wasserzeichen sind nichts Neues. Google betreibt bereits ein System namens SynthID, das genauso funktioniert, und OpenAI nutzt es auch. Ein separater Industriestandard namens C2PA Content Credentials, eine Art digitales Herkunftszertifikat, das mit einer Bilddatei mitgeht, existiert ebenfalls, und Meta sitzt bereits im Lenkungsausschuss, der ihn bewirbt.

Warum also ein weiteres System von Grund auf aufbauen?

Meta hat keine klare Antwort gegeben. Was es gegeben hat, ist ein Tool mit einigen bemerkenswerten Lücken.

Derzeit deckt Content Seal nur Bilder von Muse ab. Es deckt kein Video ab. Es deckt nichts ab, das mit Metas älteren KI-Tools erstellt wurde, die seit 2023 Bilder generieren. Das Erkennungstool ist eine separate Website, die Nutzer selbst aufsuchen müssen. Es ist nicht in Meta AI, den Chatbot des Unternehmens, eingebaut, wie Googles Erkennung in Gemini eingebaut ist.

Meta begrenzt auch, wie oft jemand pro Tag Bilder überprüfen kann. Dieses Tageslimit ist aus Sicherheitssicht verständlich, aber es widerspricht dem Ziel, die Erkennung im großen Maßstab einfach zu gestalten. C2PA hat keine solche Begrenzung.

Das größere Problem ist die Kompatibilität. Als The Verge einen praktischen Test durchführte und ein von Muse generiertes Bild in Googles Gemini und das offizielle C2PA-Überprüfungsportal eingab, kennzeichnete kein Tool es als von KI erstellt. Content Seal spricht vorerst im Grunde nur mit sich selbst.

Faith Eischen, Sprecherin von Meta, sagte gegenüber The Verge, dass das Unternehmen „Wege erkundet, um die Erkennung näher an die Orte zu bringen, an denen Menschen auf KI-generierte Inhalte treffen" und „entschlossen ist, mit Branchenkollegen zusammenzuarbeiten". Diese Sprache signalisiert, dass die Arbeit noch nicht abgeschlossen ist.

Reuters stellte fest, dass die reale Leistung des Systems noch schwächer ist: Content Seal konnte mehr als die Hälfte der von Muse generierten Bilder nicht identifizieren, nachdem sie zugeschnitten worden waren. Zuschneiden ist eine der grundlegendsten Bearbeitungen, die jemand an einem Foto vornimmt.

Sollten gewöhnliche Nutzer Content Seal zum Schutz vertrauen?

Noch nicht, und nicht allein. Das System ist zu begrenzt in dem, was es abdeckt, zu isoliert von den Tools, die andere Unternehmen nutzen, und zu einfach, mit einem einfachen Zuschnitt zu unterbrechen.

Wenn Sie auf Facebook oder Instagram ein Bild mit einem „KI"-Label sehen, kann dieses Label von Metadatensignalen statt nur von Content Seal stammen. Auf anderen Plattformen tragen von Muse generierte Bilder möglicherweise überhaupt kein Label.

Worauf Sie achten sollten:

• Ein KI-Label auf einem sozialen Beitrag bedeutet nicht, dass jedes KI-generierte Bild erfasst wurde. Das Fehlen eines Labels ist kein Beweis, dass ein Bild echt ist.
• Rückwärtsbildsuche in Google oder eine dedizierte Fact-Checking-Website ist immer noch Ihre zuverlässigste erste Überprüfung.
• Zugeschnittene oder verkleinerte Bilder sind für jedes Wasserzeichensystem schwerer zu lesen, daher sollten Sie stark bearbeitete Bilder mit zusätzlicher Skepsis behandeln.

Forscher von Reuters und das Team von The Verge AI sind diejenigen, die diese Lücken aufgedeckt haben. Anerkennung, wo sie gebührt.