Meta billigte und schaltete Anzeigen mit KI-generierten Bildern von Kindesmissbrauch neun Monate lang

Wichtigste Punkte

• Forscher des Tech Transparency Project fanden zwischen November 2024 und August 2025 mehr als 50 bezahlte Anzeigen mit Material zur Ausbeutung von Kindern in Metas eigenem öffentlichen Anzeigenbibliothek.
• Mindestens eine Anzeige erreichte 2.563 Konten in acht europäischen Ländern, darunter Großbritannien, Frankreich und Deutschland.
• Metas automatisiertes Anzeigenüberprüfungssystem billigte die Anzeigen vor ihrer Veröffentlichung; einige tauchten erneut auf, nachdem Meta bereits identische Versionen wegen Richtlinienverletzungen entfernt hatte.
• Mehrere Anzeigen verwiesen auf eine App namens MaskAI, die Apple inzwischen aus dem App Store entfernt hat.
• Meta gibt an, im vergangenen Jahr über 36 Millionen Inhalte zur Ausbeutung von Kindern entfernt zu haben, aber Kritiker sagen, dass die wiederholten Genehmigungen auf ein tiefergehendes Versagen bei der Überprüfung bezahlter Anzeigen hindeuten.

Neun Monate lang überprüfte, billigte und nahm Metas Werbesysteme Zahlungen für Anzeigen entgegen, die Bilder oder Videos von Kindesmissbrauch (CSAM) enthielten, die den sexuellen Missbrauch von Kindern zeigen. Das Tech Transparency Project (TTP), eine unabhängige Überwachungsgruppe, fand mehr als 50 solcher Anzeigen in Metas eigenem öffentlichen Anzeigentransparenzbibliothek, einer durchsuchbaren Datenbank, die Meta created hat, damit jeder sehen kann, welche Anzeigen auf seinen Plattformen laufen.

WIRED berichtete zuerst über die Ergebnisse.

Was zeigten die Anzeigen tatsächlich?

Der Inhalt war explizit und beabsichtigt. Eine Video-Anzeige verwendete eine Miniaturansicht eines Kindes, fügte eine Überschrift über „tiefe Fantasien" hinzu und spielte beim Anklicken zunächst Erwachsenenmaterial ab, bevor das Gesicht des Kindes mittels KI eingefügt wurde. Eine andere Anzeige, die wiederholt erneut veröffentlicht wurde, zeigte ein junges Mädchen in einer sexuellen Position mit der Überschrift „Ich kann dir mehr zeigen."

Ein drittes Video begann mit einem Clip eines Mädchens, das Lippenstift aufträgt, und verwandelte sich in das Kind, das einen Sexualakt ausführt. Dies waren keine Grenzfälle.

„Diese Anzeigen machten keine Anstrengungen, die Bilder zu maskieren oder zu verbergen, was sie beworbenen," sagte Katie Paul, Direktorin von TTP, gegenüber WIRED. Sie betonte, dass dies bezahlte Werbung war, Inhalte, die Meta aktiv überprüft und bezahlt hatte, nicht Beiträge, die von gewöhnlichen Benutzern hochgeladen und durchgerutscht waren.

Wie hat Metas System dies übersehen?

Meta sagt, dass alle Anzeigen vor ihrer Veröffentlichung überprüft werden, hauptsächlich mithilfe automatisierter Tools, Software, die Inhalte gegen die Regeln des Unternehmens überprüft. Diese Regeln verbieten explizit Material zur Ausbeutung von Kindern und alle sexuell anzüglichen Bilder.

Die automatisierte Überprüfung schlug wiederholt fehl. Einige der in der zweiten Charge gefundenen Anzeigen, die Stunden vor der Veröffentlichung entdeckt wurden, waren gepostet worden, nachdem WIRED Meta zum ersten Mal auf das Problem hingewiesen hatte. Einige erreichten aktiv Konten in dem Moment, in dem Forscher sie entdeckten.

Schlimmer noch, Paul sagt, einige der erneut geposteten Anzeigen waren identisch mit denen, die Meta bereits wegen Richtlinienverletzungen entfernt hatte. Wenn das System eine Kopie kennzeichnen konnte, wirft die Tatsache, dass Duplikate weiterhin liefen, ernsthafte Fragen auf, ob der Entfernungsprozess eine breitere Blockade auslöst.

Die meisten Anzeigen stammten von Meta-Konten mit wenigen oder gar keinen Followern. Wo zahlende Werbetreibende identifiziert wurden, ließen sie sich auf chinesische Unternehmen zurückführen. Eine Anzeige, die ein ruhendes Mädchen zeigte, nannte als Werbetreibenden ein chinesisches Unternehmen namens Meet Social, das früher einer von Metas autorisierten Anzeigenverkäufern in China war, wo Metas eigene Plattformen blockiert sind. Meet Social antwortete nicht auf Anfragen zu einer Stellungnahme.

Mehrere Anzeigen leiteten Benutzer zu einer App namens MaskAI weiter, die im Apple App Store verfügbar ist. Die App zeigte im Store-Eintrag nichts Explizites, aber nach dem Öffnen enthielt sie KI-generierte Pornografie und eine Face-Swap-Funktion, mit der Benutzer jedes hochgeladene Foto in sexuelle Bilder einfügen konnten. Apple entfernte MaskAI, nachdem WIRED das Unternehmen kontaktiert hatte.

Was bedeutet dies für gewöhnliche Menschen?

Wenn Sie oder Ihre Kinder Facebook, Instagram, Messenger oder Threads nutzen, werden bezahlte Anzeigen in Ihrem Feed durch das gleiche automatisierte System überprüft, das diese genehmigt hat. Metas Anzeigenbibliothek zeigte, dass die Anzeigen echte Konten in Frankreich, Deutschland, Irland, Italien, den Niederlanden, Spanien, Schweden und Großbritannien erreichten. Die US-Reichweitenzahlen werden in der Bibliothek nicht offengelegt, daher ist die Gesamtreichweite unbekannt.

Das TTP meldete seine Ergebnisse direkt an die CyberTipline des National Center for Missing and Exploited Children, die US-Behörde, die Berichte über Online-Material zur Ausbeutung von Kindern bearbeitet. Das NCMEC kommentierte die spezifischen Berichte nicht.

Metas Antwort bestätigte das Versagen in gemessenen Worten. „Sexuelle Ausbeutung ist abscheulich, und wir arbeiten aggressiv daran, sie von unserer Plattform zu entfernen," sagte ein Sprecher und merkte an, dass das Unternehmen kürzlich neue KI-Erkennungstechnologie für Anzeigen eingeführt und im vergangenen Jahr über 36 Millionen Inhalte zur Ausbeutung von Kindern entfernt hat. Das Unternehmen sagte auch, dass viele der Anzeigen minimale Reichweite hatten und einige vor WIREDs Anfrage deaktiviert wurden.

Pauls Gegenargument ist deutlich: Metas Anzeigenbibliothek hat keine Möglichkeit für die Öffentlichkeit, eine verletzende Anzeige zu melden, sobald sie nicht mehr läuft. Sie können den Beweis des Verbrechens sehen; Sie können ihn nicht kennzeichnen.

Häufig gestellte Fragen

Kann ich selbst eine verdächtige Meta-Anzeige melden?

Sie können eine Anzeige melden, während sie aktiv auf Facebook oder Instagram läuft, indem Sie auf die drei Punkte in der Anzeige tippen und „Anzeige melden" wählen. Metas öffentliche Anzeigenbibliothek, in der Sie historische Anzeigen durchsuchen, hat derzeit kein integriertes Meldungstool für Anzeigen, die nicht mehr live sind.

Wurden Anklage erhoben?

Es wurden keine strafrechtlichen Anklagen oder behördlichen Maßnahmen öffentlich angekündigt, die sich aus diesen spezifischen Anzeigen ergeben. Das TTP meldete das Material an die NCMEC CyberTipline, die Fälle an die Strafverfolgungsbehörden weitergeben kann, aber das NCMEC hat nicht kommentiert, welche Schritte es unternimmt.

Hat das Entfernen von MaskAI durch Apple den Schaden gestoppt?

Das Entfernen der App aus dem App Store stoppt neue Downloads. Jeder, der MaskAI bereits installiert hat, hat die App auf seinem Gerät, es sei denn, er löscht sie manuell.