Google sagt, seine Tools halfen bei der Erstellung von 100 Milliarden KI-Bildern. Ein Wasserzeichen kann sie kennzeichnen, aber kann es den Schaden verhindern?

Wichtigste Punkte

• Das Starling Lab, eine Forschungskooperation der Stanford University und der University of Southern California, schätzt, dass die Menschheit 149 Jahre brauchte, um 1,5 Milliarden Fotografien zu produzieren; generative KI erreichte das in 18 Monaten.
• Google kündigte auf seiner I/O-Entwicklerkonferenz im Frühjahr an, dass seine Tools bei der Erstellung von mehr als 100 Milliarden KI-Bildern und -Videos in nur wenigen Jahren geholfen haben.
• Google baut Partnerschaften rund um SynthID aus, seine Technologie zur Kennzeichnung von KI-generiertem Inhalt, damit mehr Plattformen sie nutzen können.
• SynthID kann KI-Inhalte bei der Erstellung kennzeichnen, aber die Kennzeichnung kann nicht verhindern, dass gefälschte Bilder verbreitet werden, bevor jemand sie überprüft.

Eine Zahl dazu: Die Menschheit machte 149 Jahre lang Fotografien, bevor sie 1,5 Milliarden Bilder erreichte. Generative KI, Software, die Fotos, Videos und Audio aus einer Texteingabe erstellt, überschritt die gleiche Grenze in 18 Monaten. Diese Zahlen stammen vom Starling Lab, einer Forschungskooperation der Stanford University und der University of Southern California, das erforscht, wie digitale Medien authentifiziert werden.

Dann kam Google mit einer noch größeren Zahl. Auf seiner I/O-Konferenz im Frühjahr teilte das Unternehmen mit, dass seine Tools bei der Produktion von mehr als 100 Milliarden KI-Bildern und -Videos in nur wenigen Jahren verwendet wurden. Nach ersten Berichten von Ars Technica AI umfasst diese Zahl nur Googles eigene Produkte. Dutzende andere Unternehmen betreiben ebenfalls Bild- und Video-Generatoren.

Was ist SynthID und wie funktioniert es?

SynthID ist Googles Antwort auf eine einfache Frage: Wie kann jemand wissen, dass ein KI-Bild gefälscht ist, sobald es existiert? Das Tool bäckt ein unsichtbares Wasserzeichen, ein verborgenes Signal, das in die Pixel oder Audiodaten eingewoben ist, in den Inhalt ein, in dem Moment, in dem Googles Systeme ihn erstellen. Ein separater Detektor kann dieses Signal später lesen.

Das Wasserzeichen übersteht eine überraschende Menge an Missbrauch. Zuschneiden, Farbfilter und erneute Screenshot-Speicherungen lassen es in der Regel intakt.

Google nutzte die I/O-Ankündigung, um neue Partnerschaften zu bestätigen, die SynthID auf mehr Plattformen verbreiten würden, was bedeutet, dass mehr KI-Inhalte, die anderswo erstellt werden, die Kennzeichnung tragen könnten.

Ist das Problem also gelöst?

Keineswegs. Ein Wasserzeichen ist eine Kennzeichnung, kein Schloss.

Inhalte mit einem SynthID-Tag können sich über soziale Medien, Messaging-Apps und News-Feeds lange verbreiten, bevor ein Detektor ihn scannt. Die meisten gewöhnlichen Menschen haben keine Möglichkeit, selbst eine Überprüfung durchzuführen, und Plattformen sind nicht verpflichtet, eine Warnung anzuzeigen, auch wenn sie könnten.

Es gibt auch Inhalte, die überhaupt nicht gekennzeichnet werden. SynthID kennzeichnet nur das, was Googles eigene Tools produzieren. Jedes Bild, das mit einem konkurrierenden Generator erstellt wurde, oder mit älterer Open-Source-Software, die jeder herunterladen und lokal ausführen kann, trägt überhaupt kein Wasserzeichen.

Worauf sollten Leser achten?

Kennzeichnungstechnologie ist wirklich nützlich und lohnt sich zu haben. Aber das Volumen ist die eigentliche Geschichte hier. Wenn die Tools eines einzelnen Unternehmens in zwei Jahren 100 Milliarden Teile synthetischer Medien produzieren können, ist das realistische Risiko nicht eine überzeugende Deepfake; es ist ein Ozean von plausibel aussehenden gefälschten Inhalten, der die menschliche Fähigkeit überfordert, sie zu hinterfragen.

Einige praktische Gewohnheiten helfen. Führe eine Rückwärtsbildsuche für jedes Foto durch, das stark provozieren soll. Prüfe, ob eine Geschichte auf mehr als einer seriösen Seite erscheint, bevor du sie teilst. Wenn ein Video zeigt, dass jemand etwas Schockierendes sagt, suche nach einem Texttranskript von einem benannten Journalisten, bevor du ihm vertraust.

Das Wasserzeichen ist ein Anfang. Skepsis ist immer noch das bessere Werkzeug.