Les outils de modération IA suppriment des publications Reddit vieilles d'une décennie, et c'est un avertissement pour tous les réseaux sociaux

Points clés

• En avril 2025, des dizaines de publications et de commentaires datant de dix ans ont été automatiquement supprimés de r/AskHistorians, l'une des communautés les plus soigneusement modérées de Reddit.
• Les modérateurs ont d'abord remarqué le problème quand un canal Slack utilisé pour suivre les alertes de modération a été inondé de notifications de suppression inattendues.
• Les outils de modération de contenu basés sur l'IA, des logiciels qui signalent ou suppriment automatiquement des publications en fonction du jugement de l'IA plutôt que de la lecture humaine, se multiplient sur les plateformes de réseaux sociaux.
• Les chercheurs et les modérateurs avertissent que l'utilisation de l'IA pour combattre le spam généré par l'IA peut éliminer également du contenu humain authentique et précieux.

Les modérateurs de r/AskHistorians sont fiers de gérer l'une des communautés les plus strictement contrôlées de Reddit. Des historiens, des universitaires et des passionnés répondent aux questions avec des réponses sourcées et détaillées. Les normes sont élevées. Les archives remontent à plusieurs années.

Ainsi, quand un canal Slack que l'équipe de modération utilise pour suivre les alertes entrantes s'est soudainement rempli de centaines de notifications en avril, quelque chose clochait clairement. Des dizaines de publications et de commentaires, certains vieux de près d'une décennie, avaient été automatiquement effacés.

Ce détail a d'abord été rapporté par Ars Technica.

Qu'est-ce qui s'est mal passé ?

Le coupable semble être la modération automatisée du contenu : des outils d'IA qui analysent les publications et supppriment tout ce qu'ils signalent comme problématique, sans qu'un humain ne prenne la décision finale. Les plateformes se tournent vers ces outils en nombre croissant à mesure que le volume de spam généré par l'IA, aussi appelé « contenu IA de remplissage », et de contenu haineux augmente.

La logique est compréhensible. Les modérateurs humains ne peuvent pas tout lire. L'IA peut traiter des millions de publications par minute.

Mais les classificateurs d'IA, la partie du système qui décide si une publication est bonne ou mauvaise, font des erreurs. Ils n'ont pas de contexte. Une réponse vieille de dix ans d'un historien formé ressemble, pour un système de reconnaissance de motifs, beaucoup à du texte de remplissage fraîchement généré si l'écriture est longue et détaillée. Le système supprime les deux.

Pourquoi cela compte-t-il pour les utilisateurs ordinaires ?

Pensez à un forum que vous avez utilisé pour résoudre un vrai problème : un fil de discussion qui expliquait un symptôme médical, une communauté qui vous a aidé à réparer un appareil cassé, un groupe local où les gens partageaient ce qui fonctionnait réellement.

Ces connaissances ne vivent sur aucun site officiel. Elles existent parce que des personnes spécifiques ont choisi de les écrire et de les partager. La suppression automatique ne supprime pas seulement une publication. Elle supprime la confiance qui a motivé quelqu'un à prendre la peine d'écrire en premier lieu.

Quand les suppressions erronées se répètent, les contributeurs arrêtent de contribuer. La communauté se vide. La plateforme finit par avoir moins de contenu authentique qu'elle n'en avait au départ, ce qui est l'inverse de ce que la modération était censée réaliser.

Que devraient faire les plateformes à la place ?

La réponse honnête est que personne n'a encore de solution parfaite. Les outils d'IA peuvent aider les modérateurs humains à prioriser leurs files d'attente, en signalant le contenu suspect pour examen plutôt que de le supprimer d'emblée. Cela garde une personne dans la boucle.

Les plateformes pourraient aussi accorder une période de grâce aux contributeurs de longue date avant qu'une action automatisée prenne effet, ou faciliter l'appel d'une suppression rapidement.

Ce que l'incident de r/AskHistorians illustre est un principe simple : l'automatisation qui ne peut pas distinguer entre un mauvais acteur et un membre dévoué de la communauté n'est pas un filet de sécurité. C'est une trappe.

Questions courantes

Les publications supprimées peuvent-elles être récupérées ?

Parfois. Les modérateurs de Reddit ayant les bonnes autorisations peuvent restaurer les publications qui ont été automatiquement supprimées, mais seulement s'ils attrapent l'erreur rapidement et que les propres systèmes de la plateforme conservent encore une copie. Les suppressions plus anciennes sont plus difficiles à annuler.

Cela affecte-t-il seulement Reddit ?

Non. Toute plateforme qui utilise la modération automatisée du contenu, ce qui inclut la plupart des grands réseaux sociaux, fait face au même compromis entre la vitesse et la précision. La structure de modération ouverte de Reddit a rendu cet échec particulier visible ; d'autres peuvent passer inaperçus.