Les mèmes d'extrême droite générés par l'IA inondent Facebook. Voici comment fonctionne la machine.

Points clés

• Les outils d'IA permettent désormais aux mauvais acteurs de produire des centaines de mèmes politiquement chargés par jour avec presque aucun effort humain.
• Ces publications se propagent le plus efficacement sur Facebook, où les recommandations algorithmiques, les systèmes automatisés qui décident ce que vous voyez ensuite, favorisent les contenus qui suscitent des réactions fortes.
• Le contenu suit une formule reconnaissable : un titre sensationnaliste, une image générée par l'IA, un ancrage factuel minimal.
• Les chercheurs et journalistes ont documenté une augmentation de ce qu'ils appellent les « contenus d'IA de faible qualité », générés en masse purement pour les clics et l'engagement.

First Dog on the Moon, la bande dessinée satirique de longue date publiée par The Guardian, a récemment porté son regard sur une tendance qui n'a rien de drôle : des usines à mèmes utilisant l'intelligence artificielle pour inonder Facebook de contenu politique d'extrême droite.

La bande dessinée est une satire mordante. L'histoire sous-jacente est réelle.

Qu'est-ce exactement qu'une usine de mèmes « d'IA de faible qualité » ?

Considérez-la comme une chaîne de production de contenu, sauf que les humains la touchent à peine. Quelqu'un configure un générateur d'images IA, le type d'outil qui produit une image finie à partir d'une brève description textuelle, et l'associe à un outil d'écriture IA. Le système produit ensuite des dizaines ou des centaines de publications par jour, chacune conçue pour ressembler à une opinion politique de base.

Les publications ont souvent une forme reconnaissable. Un titre alarmant. Une image générée d'une foule, d'un drapeau ou d'une figure politique. Une courte légende conçue pour vous mettre en colère au point de la partager.

Rien de tout cela ne nécessite un journaliste, un photographe ou même beaucoup de temps.

Pourquoi Facebook continue-t-il à montrer ce contenu aux gens ?

L'algorithme de recommandation de Facebook, le logiciel qui choisit les publications qui apparaissent dans votre fil d'actualité, récompense l'engagement. Les mentions J'aime, les partages et les réactions négatives comptent tous comme de l'engagement. Le contenu conçu pour provoquer des réactions fortes est poussé vers plus de personnes, ce qui génère plus de réactions, ce qui le pousse encore plus loin.

Cette boucle de rétroaction n'est pas nouvelle. Ce qui a changé, c'est l'offre. Les outils d'IA ont réduit le coût de production de contenu émotionnellement chargé à pratiquement zéro.

À quoi les lecteurs devraient-ils faire attention ?

Quelques signaux ont tendance à apparaître ensemble dans les publications de contenu d'IA de faible qualité. Des images qui semblent presque photographiques mais qui présentent des détails étranges : des mains bizarres, du texte flou en arrière-plan ou des visages qui semblent légèrement décalés. Des légendes qui utilisent un langage émotionnel généralisé mais ne citent aucune source. Des profils de compte qui publient de nombreuses fois par jour, tous les jours, souvent sur le même thème.

Si une publication vous donne envie de la partager immédiatement, cela vaut la peine de faire une pause. Cette réaction est généralement l'objectif.

Le soupçon n'est pas de la paranoïa ici. C'est simplement une bonne hygiène de lecture dans un environnement où le volume de contenu généré ne cesse d'augmenter et où les outils pour le créer deviennent de moins en moins chers et de plus en plus faciles à utiliser.

Questions courantes

Ce contenu est-il illégal ?

Dans la plupart des pays, générer ou partager des mèmes politiques, même trompeurs, n'est pas automatiquement illégal. C'est lorsqu'il s'agit d'usurper l'identité de vraies personnes, d'interférence électorale ou de comportement inauthentique coordonné qui viole les règles de la plateforme qu'il devient illégal.

Facebook peut-il détecter et supprimer automatiquement ce contenu ?

Facebook utilise des systèmes automatisés pour détecter certains contenus générés par l'IA, mais les outils qui créent les publications s'améliorent à peu près au même rythme que les outils qui les détectent. Les équipes d'examen humain restent partie prenante du processus, bien que les critiques soutiennent que l'ampleur du problème dépasse la capacité de modération actuelle.