Las herramientas de moderación con IA están eliminando publicaciones de Reddit de hace una década, y eso es una advertencia para todas las redes sociales

Puntos clave

• En abril de 2025, docenas de publicaciones y comentarios que datan de hace diez años fueron eliminados automáticamente de r/AskHistorians, una de las comunidades más cuidadosamente moderadas de Reddit.
• Los moderadores notaron el problema cuando un canal de Slack utilizado para rastrear alertas de moderación se inundó con notificaciones de eliminación inesperadas.
• Las herramientas de moderación de contenido con IA, software que marca automáticamente o elimina publicaciones según el criterio de la IA en lugar de que las lea un humano, se están extendiendo por las plataformas de redes sociales.
• Los investigadores y moderadores advierten que usar IA para combatir el spam generado por IA puede arrastrar contenido humano genuino y valioso en el proceso.

Los moderadores de r/AskHistorians se enorgullecen de dirigir una de las comunidades más estrictamente controladas de Reddit. Historiadores, académicos y entusiastas responden preguntas con respuestas detalladas y documentadas. Los estándares son altos. El archivo se remonta años atrás.

Así que cuando un canal de Slack que el equipo de moderadores utiliza para rastrear alertas de moderación entrante de repente se llenó de cientos de notificaciones en abril, algo estaba claramente mal. Docenas de publicaciones y comentarios, algunos de casi una década de antigüedad, habían sido eliminados automáticamente.

Este detalle fue reportado por primera vez por Ars Technica.

¿Qué salió mal?

El culpable parece ser la moderación de contenido automatizada: herramientas de IA que analizan publicaciones y eliminan cualquier cosa que marquen como problemática, sin que un humano tome la decisión final. Las plataformas han recurrido a estas herramientas en números crecientes a medida que el volumen de spam generado por IA, también llamado "AI slop", y contenido de odio ha aumentado.

La lógica es comprensible. Los moderadores humanos no pueden leerlo todo. La IA puede procesar millones de publicaciones por minuto.

Pero los clasificadores de IA, la parte del sistema que decide si una publicación es buena o mala, cometen errores. No tienen contexto. Una respuesta de hace diez años de un historiador capacitado parece, para un sistema de reconocimiento de patrones, muy similar a texto relleno recién generado si la escritura es larga y detallada. El sistema elimina ambos.

¿Por qué importa esto a los usuarios ordinarios?

Piensa en un foro que has usado para resolver un problema real: un hilo que explicaba un síntoma médico, una comunidad que te ayudó a reparar un electrodoméstico roto, un grupo local donde la gente compartía lo que realmente funciona.

Ese conocimiento no vive en ningún sitio web oficial. Existe porque personas específicas eligieron escribirlo y compartirlo. La eliminación automatizada no solo borra una publicación. Borra la confianza que hizo que alguien se molestara en escribir en primer lugar.

Cuando ocurren eliminaciones erróneas repetidamente, los contribuyentes dejan de contribuir. La comunidad se vacía. La plataforma termina con menos contenido auténtico del que comenzó, lo cual es lo opuesto a lo que la moderación pretendía lograr.

¿Qué deberían hacer las plataformas en su lugar?

La respuesta honesta es que nadie tiene una solución limpia aún. Las herramientas de IA pueden ayudar a los moderadores humanos a priorizar sus colas, marcando contenido sospechoso para revisión en lugar de eliminarlo directamente. Eso mantiene a una persona en el proceso.

Las plataformas también podrían dar a los colaboradores de larga data un período de gracia antes de que entre en vigor cualquier acción automatizada, o facilitar la apelación rápida de una eliminación.

Lo que el incidente de r/AskHistorians ilustra es un principio simple: la automatización que no puede distinguir entre un mal actor y un miembro dedicado de la comunidad no es una red de seguridad. Es una trampa.

Preguntas frecuentes

¿Se pueden recuperar las publicaciones eliminadas?

A veces. Los moderadores de Reddit con los permisos adecuados pueden restaurar publicaciones que fueron eliminadas automáticamente, pero solo si detectan el error rápidamente y los propios sistemas de la plataforma aún mantienen una copia. Las eliminaciones más antiguas son más difíciles de deshacer.

¿Esto afecta solo a Reddit?

No. Cualquier plataforma que use moderación de contenido automatizada, lo que incluye la mayoría de las grandes redes sociales, enfrenta el mismo equilibrio entre velocidad y precisión. La estructura de moderación abierta de Reddit hizo visible este fallo particular; otros pueden pasar desapercibidos.