#content-moderation
17 stories taggedcontent-moderation.
Claude Opus 4.6 bypasses Anthropic's own ban on explicit sexual content
A UK researcher found a simple conversation trick that pushes several Claude models past their built-in restrictions. Anthropic has not pulled the affected models.
LinkedIn's 'AI Slop' Button Has Been Clicked Over a Million Times
The platform says views on posts flagged as AI-generated have dropped 40 percent in just a few weeks, as users take the fight against filler content into their own hands.
Meta ran ads for an app that made deepfake porn of politicians. Again.
A tool called Kromix bought ad space on Meta's platforms promising 'no restrictions' and showing a woman resembling a sitting US politician in a pornographic video. Meta's policies already ban this. They ran the ads anyway.
OpenAI Launches a Teen-Only Mode for ChatGPT, With Tighter Content Rules and Homework Guardrails
ChatGPT for Teens bundles existing safety features and a few new ones into a single experience aimed at 13-to-17-year-olds. Here is what changes, and what stays the same.
Un adolescente del Massachusetts accusato di omicidio doppio aveva usato ChatGPT per cercare fantasie di uccisione familiare, secondo i pubblici ministeri
Arjun Aravind, 17 anni, è comparso in tribunale giovedì con accuse di omicidio per la morte di sua madre e suo fratello minore. I pubblici ministeri affermano che gli investigatori hanno scoperto che aveva usato ChatGPT per cercare storie di fantasia su omicidi in famiglia.
Meme di estrema destra generati da IA inondano Facebook. Ecco come funziona il meccanismo.
Account automatizzati stanno producendo in massa immagini e testi politicamente carichi utilizzando strumenti di IA, quindi li distribuiscono su Facebook su larga scala. Una parodia satirica di un vignettista del Guardian su questa tendenza evidenzia un problema reale e crescente.
Gli strumenti di moderazione AI stanno rimuovendo post di Reddit risalenti a dieci anni fa, e questo è un avvertimento per tutti i social media
Un'ondata di eliminazioni automatiche all'interno di una delle comunità più rispettate di Reddit mostra cosa accade quando le piattaforme combattono lo spam generato dall'AI con altra AI, e perché il vero costo ricade sulle persone che hanno costruito quelle comunità.
Meta ha approvato e pubblicato annunci contenenti immagini di abusi sessuali su minori generate da IA per nove mesi
Più di 50 annunci pubblicitari contenenti materiale di abuso sessuale su minori sono stati pubblicati su Facebook, Instagram, Messenger e Threads. Alcuni hanno raggiunto migliaia di account in Europa e negli Stati Uniti prima che i ricercatori costringessero Meta ad agire.
Reddit Sostituisce il Suo Vecchio Bot di Moderazione Con un'IA Che Legge le Intenzioni, Non Solo le Parole Chiave
Un nuovo strumento chiamato Rules Hub utilizza i modelli di linguaggio di grandi dimensioni per giudicare se un post viola effettivamente una norma. Reddit prevede di implementarlo in tutto il sito più avanti quest'anno.
Il nuovo strumento di sicurezza di Mistral legge le vostre regole e le applica istantaneamente
Shieldstral è un piccolo modello di IA gratuito che esamina testi e immagini alla ricerca di contenuti dannosi utilizzando politiche in linguaggio naturale che scrivi tu stesso. Non è richiesta alcuna conoscenza specialistica.
Snapchat smette di premiare i video completamente generati da IA su Spotlight
La piattaforma non farà più emergere i video interamente creati da IA nei consigli di Spotlight, anche se i creator possono ancora utilizzare strumenti di intelligenza artificiale per modificare i loro video.
L'UE ora richiede etichette su immagini, audio e testi generati dall'IA
Una nuova norma dell'Unione Europea entrata in vigore questa settimana richiede che i contenuti realistici creati dall'intelligenza artificiale siano chiaramente contrassegnati come tali, influenzando tutto, dai video di attacco politico agli articoli di notizie scritti dall'IA.
LinkedIn aggiunge un pulsante "sembra AI slop" per permettere agli utenti di segnalare post fake
La rete professionale di proprietà di Microsoft sta bloccando centinaia di migliaia di commenti automatici al giorno e sta eliminando il suo stesso strumento di scrittura AI, perché i suoi membri vogliono sentire voci autentiche, non bot.
Hugging Face ospita strumenti utilizzati per creare immagini intime non consensuali, secondo un rapporto
Un'organizzazione di ricerca europea ha testato i più popolari strumenti di editing di immagini della piattaforma e ha scoperto che la maggior parte di essi rimuoverebbe i vestiti dalle foto di donne con una semplice richiesta in linguaggio naturale.
YouTube smetterà di pagare i creator per contenuti AI scadenti, personaggi falsi e video angoscianti
Tre nuove categorie di contenuti bloccano ora i creator dall'ottenere guadagni pubblicitari su YouTube. Ecco cosa è cambiato e cosa significa per chi guarda o produce video.