Los memes de extrema derecha generados por IA inundan Facebook. Así funciona la máquina.

Puntos clave

• Las herramientas de IA ahora permiten a actores maliciosos producir cientos de memes políticamente cargados por día con casi ningún esfuerzo humano.
• Estos posts se distribuyen de manera más efectiva en Facebook, donde los sistemas de recomendación algorítmica, los sistemas automatizados que deciden qué ves a continuación, favorecen contenido que desencadena reacciones fuertes.
• El contenido sigue una fórmula reconocible: titular de indignación, imagen generada por IA, fundamentación factual mínima.
• Investigadores y periodistas han documentado un aumento en lo que llaman "AI slop", contenido de baja calidad generado por IA producido únicamente para clics y engagement.

First Dog on the Moon, la tira de caricatura satírica de larga trayectoria publicada por The Guardian, recientemente enfocó su lente en una tendencia que es cualquier cosa menos divertida: fábricas de memes usando inteligencia artificial para inundar Facebook con contenido político de extrema derecha.

La caricatura es una sátira mordaz. La historia subyacente es real.

¿Exactamente qué es una fábrica de memes de "AI slop"?

Piénsalo como una línea de ensamblaje de contenido, excepto que los humanos apenas la tocan. Alguien configura un generador de imágenes de IA, el tipo de herramienta que produce una imagen terminada a partir de una breve descripción de texto, y la empareja con una herramienta de escritura de IA. El sistema luego produce docenas o cientos de posts al día, cada uno diseñado para parecer una opinión política de base.

Los posts a menudo tienen una forma reconocible. Un titular alarmante. Una imagen generada de una multitud, una bandera, o una figura política. Un epígrafe corto diseñado para hacerte lo suficientemente enojado como para compartir.

Nada de esto requiere un periodista, un fotógrafo, ni siquiera mucho tiempo.

¿Por qué Facebook sigue mostrando este contenido a la gente?

El algoritmo de recomendación de Facebook, el software que elige qué posts aparecen en tu feed, recompensa el engagement. Los likes, las comparticiones y las reacciones de enojo cuentan como engagement. El contenido diseñado para provocar sentimientos fuertes se distribuye a más personas, lo que genera más reacciones, que lo empujan aún más lejos.

Ese ciclo de retroalimentación no es nuevo. Lo que ha cambiado es el lado de la oferta. Las herramientas de IA han reducido el costo de producir contenido emocionalmente cargado a casi cero.

¿Qué deben observar los lectores?

Varias señales tienden a aparecer juntas en posts de AI slop. Imágenes que parecen casi fotográficas pero tienen detalles extraños: manos extrañas, texto de fondo borroso, o caras que parecen ligeramente fuera de lugar. Epígrafes que utilizan lenguaje emocional expansivo pero no citan fuente alguna. Perfiles de cuenta que publican muchas veces al día, todos los días, a menudo sobre el mismo tema.

Si un post te hace querer compartirlo inmediatamente, eso merece una pausa. Esa reacción es generalmente el punto.

La sospecha no es paranoia aquí. Es simplemente una buena higiene de lectura en un entorno donde el volumen de contenido generado sigue aumentando y las herramientas para crearlo se vuelven cada vez más baratas y fáciles de usar.

Preguntas frecuentes

¿Es este contenido ilegal?

En la mayoría de países, generar o compartir memes políticos, incluso engañosos, no es automáticamente ilegal. Donde cruza hacia la ilegalidad es cuando implica suplantar a personas reales, interferencia electoral, o comportamiento inauténtico coordinado que viola las reglas de la plataforma.

¿Puede Facebook detectar y eliminar este contenido automáticamente?

Facebook utiliza sistemas automatizados para detectar parte del contenido generado por IA, pero las herramientas que crean los posts mejoran a un ritmo aproximadamente igual al de las herramientas que los detectan. Los equipos de revisión humana siguen siendo parte del proceso, aunque los críticos argumentan que la escala del problema supera la capacidad de moderación actual.