Britische Kinder melden explizite Deepfakes von sich selbst in Rekordmengen

Wichtigste Punkte

• Der Dienst Report Remove, der Menschen bei der Entfernung intimer Bilder aus dem Internet hilft, hat einen rapiden Anstieg von Deepfakes und KI-manipulierten Bildern mit Kindern im Vereinigten Königreich verzeichnet.
• KI-Entkleidungs-Tools, Software, die Kleidung aus Fotos entfernt, um gefälschte explizite Bilder zu erstellen, werden immer einfacher zu bedienen und zu finden.
• Ein Sicherheitswächter sagt, dass künstliche Intelligenz die Hürde für die Erstellung dieser Art von Inhalten direkt senkt.
• Report Remove ist ein anonymer Meldeservice, was bedeutet, dass Kinder Bilder melden können, ohne ihre Identität der Plattform offenzulegen.

Eine wachsende Zahl von Kindern im Vereinigten Königreich entdeckt gefälschte explizite Bilder von sich selbst, die online zirkulieren, und die Tools, die diese Bilder erstellen, werden täglich einfacher zu bedienen.

Report Remove, ein anonymer Meldeservice der Internet Watch Foundation und der Wohltätigkeitsorganisation Childline, hat einen starken Anstieg bei Fällen mit digital manipulierten Bildern verzeichnet. Dies umfasst Fotos, die mit KI bearbeitet wurden, und sogenannte Entkleidungs-Tools – Software, die ein gewöhnliches Foto einer echten Person nimmt und eine gefälschte Version erstellt, die sie ohne Kleidung zeigt.

Der Service ermöglicht es Kindern, intime Bilder zu melden, ohne sich der Plattform, auf der der Inhalt gehostet wird, identifizieren zu müssen. Nach der Meldung werden die Bilder daran gehindert, online zu erscheinen.

Was genau passiert diesen Kindern?

Jemand macht ein echtes Foto eines Kindes, oft aus einem Social-Media-Profil, und führt es durch ein KI-Tool, um eine gefälschte explizite Version zu erstellen. Das Kind hat nie zugestimmt. Das Bild sieht überzeugend aus. Und es verbreitet sich.

Diese Art von Inhalten wird manchmal als Deepfake bezeichnet – ein gefälschtes Foto oder Video, das von KI generiert wurde und wie die echte Person aussieht. Das Erstellen oder Teilen solcher Bilder von Personen unter 18 Jahren ist im Vereinigten Königreich eine Straftat, aber das hat das Volumen nicht gestoppt.

The Guardian berichtete zuerst über die Ergebnisse und zitierte die Warnung des Wächters, dass KI diesen Missbrauch einfacher denn je durchführbar macht.

Was sollten Eltern und junge Menschen tun?

Wenn ein Kind ein explizites gefälschtes Bild von sich selbst online findet, kann es es Report Remove melden, ohne seinen Namen anzugeben. Der Service kontaktiert die Hosting-Plattform und arbeitet daran, den Inhalt zu entfernen.

Eltern können helfen, indem sie ein offenes Gespräch darüber führen, was Kinder öffentlich in sozialen Medien teilen. Ein Foto, das bei einem Schulsporttag oder einer Geburtstagsfeier gemacht wurde, kann in Sekunden zum Ausgangsmaterial werden. Strengere Datenschutzeinstellungen auf Social-Media-Profilen reduzieren den Pool von Bildern, die ein Missbraucher ausnutzen kann.

Schulen und Safeguarding-Teams sollten auch wissen, dass dies nicht mehr selten ist. Die Zahlen steigen schnell, und die Tools, die diese Bilder erstellen, sind nicht schwer zu finden.

Für alle Betroffenen bietet die Childline-Hotline (0800 1111) vertrauliche Unterstützung bei bildgestütztem Missbrauch.