TikTok testet Tool zur Jagd auf gefälschte KI-Versionen von dir
Eine neue optionale Funktion ermöglicht es Erstellern, TikTok nach Deepfakes zu durchsuchen, die ihr Gesicht oder ihre Stimme ohne Erlaubnis nutzen. Sie startet mit einer kleinen Gruppe in den USA.
Wichtigste Punkte
- TikTok begann im Juli 2026 mit ausgewählten US-Erstellern, ein optionales Deepfake-Scanning-Tool zu testen.
- Ersteller müssen ihre Identität über ein Drittunternehmen namens Jumio verifizieren, bevor das Tool aktiviert wird.
- TikTok gibt an, dass es Ausweisdokumente nicht speichert und Gesichtsdaten nur zur Überprüfung der Ähnlichkeit mit dem Ersteller verwendet werden.
- YouTube startete um den gleichen Zeitraum ein ähnliches Tool für alle erwachsenen Nutzer.
Ein Deepfake ist ein gefälschtes Video oder Audio-Clip, das von KI generiert wird und so aussehen oder klingen kann, als würde eine echte Person etwas sagen oder tun, das sie nie getan hat. TikTok testet nun ein Tool, das seine eigene Plattform nach solchen Fälschungen durchsucht, speziell wenn sie das Gesicht oder die Stimme eines Erstellers ohne Erlaubnis nutzen.
Die Funktion ist optional, das heißt niemand wird automatisch angemeldet. Derzeit ist sie nur für „einige" US-Ersteller verfügbar, sagte TikTok-Sprecherin Zachary Kizer gegenüber The Verge, die als erste über den Test berichtete.
Bevor der Scan ausgeführt werden kann, muss ein Ersteller seine Identität nachweisen. Das bedeutet, durch Jumio, ein Identitätsverifizierungsunternehmen, zu gehen, mit einem Live-Selfie und einer Ausweiskontrolle. Das klingt invasiv, aber Kizer war präzise: „TikTok speichert keine Ausweisdokumente, und Gesichtsinformationen werden nur zur Überprüfung der Ähnlichkeit und zur Identifizierung möglicher unbefugter Verwendungen des Äußeren eines Erstellers verwendet."
Einfach ausgedrückt: TikTok verwendet deinen Gesichtsscan, um Betrüger zu finden, und löscht dann die Ausweisdaten.
Nach der Verifizierung durchsucht das System von TikTok die Plattform nach KI-generiertem Inhalt, der möglicherweise das Aussehen dieses Erstellers verwendet. Der Ersteller überprüft dann die Ergebnisse und kann verdächtige Beiträge oder Konten direkt an TikTok melden.
Dies ist wichtig über berühmte Influencer hinaus. Jeder Ersteller, einschließlich eines kleinen Fitness-Trainers aus einer Kleinstadt oder eines lokalen Restaurantkritikers, könnte sein Gesicht auf Inhalte gesetzt finden, die er nie erstellt hat. Tools wie dieses geben normalen Menschen eine Möglichkeit, das Problem zu kennzeichnen, anstatt nur zu hoffen, dass die Plattform es bemerkt.
TikTok ist hier nicht allein. YouTube baute ein vergleichbares System und öffnete es um die gleiche Zeit für alle erwachsenen Nutzer, was Erstellern auf dieser Plattform einen Weg gibt, die Entfernung von KI-generiertem Inhalt zu beantragen, der ihr Aussehen oder ihre Stimme imitiert.
Keines der Tools ist eine vollständige Lösung. Beide verlassen sich darauf, dass Ersteller von dem Tool wissen, sich anmelden und aktiv Ergebnisse überprüfen. Die Last liegt immer noch hauptsächlich bei der Person, deren Äußeres gestohlen wurde, nicht bei der Person, die die Fälschung erstellt hat.
Was sollten Ersteller jetzt tun?
Wenn du regelmäßig auf TikTok postest, überprüfe, ob du Zugriff auf die neue Scanning-Funktion in deinen Kontoeinstellungen hast. Wenn sie noch nicht vorhanden ist, befindest du dich wahrscheinlich außerhalb der aktuellen Testgruppe, und ein breiterer Rollout wurde nicht angekündigt. Einstweilen ist die gelegentliche Suche nach deinem Namen auf TikTok und das Melden von verdächtigem Inhalt über die Standard-Meldebutton immer noch deine beste Option.
Der Test signalisiert, dass Plattformen damit beginnen, Deepfake-Missbrauch als Infrastrukturproblem zu behandeln, nicht nur als Nachgedanke bei der Moderation von Inhalten. Wie schnell dies skaliert, ist die Frage, die es zu beobachten gilt.
