#content-moderation
17 stories taggedcontent-moderation.
Claude Opus 4.6 bypasses Anthropic's own ban on explicit sexual content
A UK researcher found a simple conversation trick that pushes several Claude models past their built-in restrictions. Anthropic has not pulled the affected models.
LinkedIn's 'AI Slop' Button Has Been Clicked Over a Million Times
The platform says views on posts flagged as AI-generated have dropped 40 percent in just a few weeks, as users take the fight against filler content into their own hands.
Meta ran ads for an app that made deepfake porn of politicians. Again.
A tool called Kromix bought ad space on Meta's platforms promising 'no restrictions' and showing a woman resembling a sitting US politician in a pornographic video. Meta's policies already ban this. They ran the ads anyway.
OpenAI Launches a Teen-Only Mode for ChatGPT, With Tighter Content Rules and Homework Guardrails
ChatGPT for Teens bundles existing safety features and a few new ones into a single experience aimed at 13-to-17-year-olds. Here is what changes, and what stays the same.
Siebzehnjähriger aus Massachusetts wegen Doppelmordes angeklagt – Staatsanwälte sagen, er habe ChatGPT für Suche nach Fantasien über Familientötungen genutzt
Arjun Aravind, 17, wurde am Donnerstag wegen Mordvorwürfen im Zusammenhang mit den Todesfällen seiner Mutter und seines jüngeren Bruders angeklagt. Die Staatsanwaltschaft gibt an, dass Ermittler herausgefunden haben, dass er ChatGPT nutzte, um nach fiktiven Geschichten über das Töten von Familienmitgliedern zu suchen.
Von KI generierte Rechtsextremisten-Memes überfluten Facebook. So funktioniert die Maschine.
Automatisierte Konten produzieren massenhaft politisch aufgeladene Bilder und Texte mit KI-Tools und verbreiten sie im großen Stil über Facebook. Ein satirischer Beitrag eines Guardian-Karikaturisten deutet auf ein echtes und wachsendes Problem hin.
KI-Moderationstools löschen jahrzehntealte Reddit-Beiträge – eine Warnung für alle sozialen Medien
Eine Flut automatisierter Löschungen in einer der angesehensten Communities von Reddit zeigt, was passiert, wenn Plattformen KI-generierte Inhalte mit noch mehr KI bekämpfen – und warum die echten Kosten diejenigen trifft, die diese Communities aufgebaut haben.
Meta billigte und schaltete Anzeigen mit KI-generierten Bildern von Kindesmissbrauch neun Monate lang
Mehr als 50 bezahlte Anzeigen mit Material zur Ausbeutung von Kindern liefen über Facebook, Instagram, Messenger und Threads. Einige erreichten Tausende von Konten in Europa und den USA, bevor Forscher Meta zum Handeln zwangen.
Reddit ersetzt seinen alten Moderations-Bot durch KI, die Absicht erkennt, nicht nur Schlüsselwörter
Ein neues Tool namens Rules Hub nutzt große Sprachmodelle, um zu beurteilen, ob ein Beitrag tatsächlich gegen eine Regel verstößt. Reddit plant, es später in diesem Jahr unternehmensübergreifend einzuführen.
Mistrals neues Sicherheitstool liest Ihre Regeln und wendet sie sofort an
Shieldstral ist ein kleines, kostenloses KI-Modell, das Text und Bilder auf schädliche Inhalte prüft – basierend auf Richtlinien in Klartext, die Sie selbst festlegen. Keine Spezialkennnisse erforderlich.
Snapchat belohnt vollständig KI-generierte Videos auf Spotlight nicht mehr
Die Plattform wird rein KI-erstellte Videos nicht mehr in ihren Spotlight-Empfehlungen anzeigen, aber Ersteller können weiterhin KI-Tools zur Bearbeitung ihres eigenen Materials verwenden.
Die EU verlangt nun Kennzeichnungen auf KI-generierten Bildern, Audio und Text
Eine neue Regelung der Europäischen Union, die diese Woche in Kraft trat, besagt, dass realistisch aussehende Inhalte, die von künstlicher Intelligenz erstellt wurden, deutlich als solche gekennzeichnet werden müssen. Dies betrifft alles von politischen Attackvideos bis hin zu von KI geschriebenen Nachrichtenartikeln.
LinkedIn fügt einen „Sieht wie KI-Spam aus"-Button hinzu, um Nutzer Fake-Posts kennzeichnen zu lassen
Das Microsoft-eigene Netzwerk blockiert täglich Hunderttausende automatisierte Kommentare und stellt sein eigenes KI-Schreibwerkzeug ein, weil Mitglieder von echten Menschen hören möchten, nicht von Bots.
Hugging Face hostet Tools zur Erstellung von Bildern intimer Momente ohne Zustimmung, Bericht zeigt
Eine europäische Forschungsorganisation testete die beliebtesten Bildbearbeitungswerkzeuge der Plattform und stellte fest, dass die meisten davon Kleidung von Frauenfotos mit einer einfachen, klaren Anfrage entfernen würden.
YouTube zahlt Creators nicht mehr für KI-Müll, gefälschte Personen und verstörendes Material
Drei neue Inhaltskategorien blockieren Creators jetzt davon, auf YouTube Geld mit Anzeigen zu verdienen. Hier ist, was sich geändert hat und was es für alle bedeutet, die Videos ansehen oder erstellen.