Von KI generierte Rechtsextremisten-Memes überfluten Facebook. So funktioniert die Maschine.

Wichtigste Punkte

• KI-Tools ermöglichen es böswilligen Akteuren, mit minimalem menschlichen Aufwand hunderte politisch aufgeladene Memes pro Tag zu produzieren.
• Diese Beiträge verbreiten sich am wirkungsvollsten auf Facebook, wo algorithmische Empfehlungen – automatisierte Systeme, die entscheiden, was du als nächstes siehst – Inhalte bevorzugen, die starke Reaktionen auslösen.
• Der Inhalt folgt einem erkennbaren Schema: Empörungsschlagzeile, KI-generiertes Bild, minimale faktische Grundlage.
• Forscher und Journalisten haben einen Anstieg dessen dokumentiert, was sie „KI-Müll" nennen – minderwertige KI-generierte Inhalte, die rein für Klicks und Engagement produziert werden.

First Dog on the Moon, die langjährige satirische Comic-Serie des Guardian, hat sich kürzlich einem Trend zugewandt, der überhaupt nicht lustig ist: Meme-Fabriken, die künstliche Intelligenz nutzen, um Facebook mit rechtsextremen politischen Inhalten zu überfluten.

Die Karikatur ist spitze Satire. Die dahinterliegende Geschichte ist real.

Was genau ist eine „KI-Müll"-Meme-Fabrik?

Stellt euch ein Inhalts-Fließband vor, nur dass Menschen es kaum anfassen. Jemand richtet einen KI-Bildgenerator ein – die Art von Tool, das aus einer kurzen Textbeschreibung ein fertiges Bild erstellt – und verbindet ihn mit einem KI-Schreibtool. Das System pumpt dann täglich Dutzende oder Hunderte von Beiträgen aus, von denen jeder wie eine grassroots-politische Meinung aussehen soll.

Die Beiträge haben oft ein erkennbares Muster. Eine alarmierende Schlagzeile. Ein generiertes Bild einer Menge, einer Flagge oder einer politischen Figur. Eine kurze Bildunterschrift, die dich wütend genug machen soll zum Teilen.

Nichts davon erfordert einen Journalisten, einen Fotografen oder auch nur viel Zeit.

Warum zeigt Facebook Menschen diesen Inhalt immer wieder?

Facebooks Empfehlungsalgorithmus – die Software, die entscheidet, welche Beiträge in deinem Feed erscheinen – belohnt Engagement. Likes, Shares und wütende Reaktionen zählen alle als Engagement. Inhalte, die starke Gefühle provozieren, werden mehr Menschen gezeigt, was mehr Reaktionen generiert, was ihn noch weiter verbreitet.

Diese Rückkopplungsschleife ist nicht neu. Was sich geändert hat, ist die Angebotsseite. KI-Tools haben die Kosten für die Produktion emotionaler Inhalte auf fast null reduziert.

Worauf sollten Leser achten?

Bei KI-Müll-Beiträgen treten einige Signale zusammen auf. Bilder, die fast fotografisch wirken, aber seltsame Details haben: merkwürdige Hände, unscharfer Hintergrundtext oder Gesichter, die leicht falsch wirken. Bildunterschriften, die emotionale Sprache nutzen, aber keine Quelle nennen. Kontenprofile, die viele Male pro Tag posten, jeden Tag, oft zum gleichen Thema.

Wenn ein Beitrag dich sofort zum Teilen bewegen will, lohnt sich eine Pause. Diese Reaktion ist normalerweise der Sinn.

Skepsis ist hier nicht Paranoia. Es ist nur gute Lesehygiene in einer Umgebung, in der das Volumen generierter Inhalte ständig wächst und die Tools zu ihrer Erstellung immer billiger und einfacher zu verwenden werden.

Häufig gestellte Fragen

Ist dieser Inhalt illegal?

In den meisten Ländern ist das Generieren oder Teilen politischer Memes, auch irreführender, nicht automatisch illegal. Es wird illegal, wenn es die Personifizierung echter Menschen, Wahlbeeinflussung oder koordiniertes unauthenisches Verhalten beinhaltet, das gegen Plattformregeln verstößt.

Kann Facebook diesen Inhalt automatisch erkennen und entfernen?

Facebook nutzt automatisierte Systeme, um einige KI-generierte Inhalte zu erfassen, aber die Tools, die die Beiträge erstellen, verbessern sich in etwa dem gleichen Tempo wie die Tools, die sie erkennen. Menschliche Moderationsteams sind weiterhin Teil des Prozesses, obwohl Kritiker argumentieren, dass das Ausmaß des Problems die aktuelle Moderationskapazität übersteigt.