#content-moderation
22 stories taggedcontent-moderation.
Cuanto Mejor Se Comporta la IA, Peor Escribe
Investigadores han descubierto una tensión aguda en el corazón de las herramientas de lenguaje de IA: cuanto mejor controlas lo que dice un chatbot, más probable es que empiece a hablar sin sentido. Esto es lo que significa para las aplicaciones que usas todos los días.
Meta Took Days to Remove Ads That Used AI to Create Fake Sexual Images of Real Children
An investigation found 332 ads on Facebook and Instagram this year promoting apps that digitally strip or sexually alter photos of real minors, including images taken from children's public social media profiles.
Your AI assistant might refuse to help with politics. A new study shows that's often the wrong call.
Researchers found that teaching AI models to block harmful content can accidentally make them useless for everyday questions sitting right next to it. Here is what that means for anyone using AI tools at work.
Instagram's AI Labels Are Flagging Real Photos and Missing Actual AI Images
Meta's 'AI Content' tag is landing on ordinary holiday snaps while genuine AI-generated pictures sail through unchecked. Here is what is going wrong and what it means for anyone who posts photos.
OpenAI Enfrenta 30 Demandas por Tiroteo en Escuela Canadiense, Acusada de Elegir el Silencio sobre la Seguridad
Estudiantes, maestros y un director de Tumbler Ridge están demandando a OpenAI en California, alegando que la empresa sabía que su chatbot se estaba utilizando para planificar violencia y no dijo nada.
Instagram Will Flag Fake AI Profiles and Cut Their Reach if They Hide What They Are
The platform is renaming its label for AI-generated personas and will penalise accounts that pretend to be human without disclosing it.
Claude Opus 4.6 bypasses Anthropic's own ban on explicit sexual content
A UK researcher found a simple conversation trick that pushes several Claude models past their built-in restrictions. Anthropic has not pulled the affected models.
LinkedIn's 'AI Slop' Button Has Been Clicked Over a Million Times
The platform says views on posts flagged as AI-generated have dropped 40 percent in just a few weeks, as users take the fight against filler content into their own hands.
Meta ran ads for an app that made deepfake porn of politicians. Again.
A tool called Kromix bought ad space on Meta's platforms promising 'no restrictions' and showing a woman resembling a sitting US politician in a pornographic video. Meta's policies already ban this. They ran the ads anyway.
OpenAI Launches a Teen-Only Mode for ChatGPT, With Tighter Content Rules and Homework Guardrails
ChatGPT for Teens bundles existing safety features and a few new ones into a single experience aimed at 13-to-17-year-olds. What changes, and what stays the same.
Adolescente de Massachusetts acusado de doble homicidio utilizó ChatGPT para buscar fantasías de asesinato familiar, según fiscales
Arjun Aravind, de 17 años, fue procesado el jueves acusado de asesinato en las muertes de su madre y hermano menor. Los fiscales dicen que los investigadores encontraron que utilizó ChatGPT para buscar historias ficticias sobre matar a miembros de la familia.
Los memes de extrema derecha generados por IA inundan Facebook. Así funciona la máquina.
Cuentas automatizadas están produciendo en masa imágenes y textos políticamente cargados con herramientas de IA, distribuyéndolos en Facebook a gran escala. Una sátira de un caricaturista de The Guardian señala un problema cuyo funcionamiento se vuelve cada vez más barato.
Las herramientas de moderación con IA están eliminando posts de Reddit de hace una década, y eso es una advertencia para todas las redes sociales
Una ola de eliminaciones automatizadas dentro de una de las comunidades más respetadas de Reddit muestra qué sucede cuando las plataformas luchan contra el contenido generado por IA con más IA, y por qué el costo real recae en las personas que construyeron esas comunidades.
Meta Aprobó y Ejecutó Anuncios con Imágenes de Abuso Sexual Infantil Generadas por IA Durante Nueve Meses
Más de 50 anuncios pagados que contenían material de abuso sexual infantil se distribuyeron en Facebook, Instagram y Threads. Algunos llegaron a miles de cuentas en Europa y Estados Unidos antes de que los investigadores obligaran a Meta a actuar.
Reddit Está Reemplazando su Antiguo Bot de Moderación con IA que Lee la Intención, No Solo Palabras Clave
Rules Hub utiliza modelos de lenguaje grande para determinar si una publicación realmente infringe una regla, no solo si contiene una palabra marcada. Reddit planea un lanzamiento en todo el sitio en 2026.