As ferramentas de moderação com IA estão a remover posts do Reddit com uma década de idade, e isto é um aviso para todas as redes sociais

Pontos-chave

• Em abril de 2025, dezenas de posts e comentários com dez anos de idade foram automaticamente removidos de r/AskHistorians, uma das comunidades mais cuidadosamente moderadas do Reddit.
• Os moderadores notaram o problema quando um canal do Slack usado para rastrear alertas de moderação foi inundado com notificações inesperadas de remoção.
• As ferramentas de moderação de conteúdo com IA, software que automaticamente marca ou elimina posts com base no julgamento de IA em vez de um humano lê-los, estão a expandir-se nas plataformas de redes sociais.
• Investigadores e moderadores advertem que usar IA para combater spam gerado por IA pode varrer conteúdo genuíno e valioso criado por humanos no processo.

Os moderadores de r/AskHistorians orgulham-se de gerir uma das comunidades mais controladas do Reddit. Historiadores, académicos e entusiastas respondem perguntas com respostas detalhadas e fundamentadas. Os padrões são elevados. O arquivo recua muitos anos.

Por isso, quando um canal do Slack que a equipa de moderadores usa para rastrear alertas de moderação recebidos se preencheu repentinamente com centenas de notificações em abril, algo estava claramente errado. Dezenas de posts e comentários, alguns com quase uma década de idade, tinham sido automaticamente apagados.

Este detalhe foi primeiro reportado pelo Ars Technica.

O que correu mal?

O culpado parece ser a moderação automatizada de conteúdo: ferramentas de IA que verificam posts e removem tudo aquilo que marcam como problemático, sem uma pessoa fazer a chamada final. As plataformas recorreram a estas ferramentas em números crescentes, à medida que o volume de spam gerado por IA, também chamado "AI slop", e conteúdo de ódio aumentou.

A lógica é compreensível. Os moderadores humanos não conseguem ler tudo. A IA consegue processar milhões de posts por minuto.

Mas os classificadores de IA, a parte do sistema que decide se um post é bom ou mau, cometem erros. Não têm contexto. Uma resposta de dez anos atrás de um historiador treinado parece, para um sistema de correspondência de padrões, muito semelhante a texto preenchimento gerado recentemente se a escrita é longa e detalhada. O sistema elimina ambos.

Porque é que isto importa aos utilizadores comuns?

Pense num fórum que utilizou para resolver um problema real: uma discussão que explicava um sintoma médico, uma comunidade que o ajudou a consertar um electrodoméstico partido, um grupo local onde as pessoas partilhavam o que realmente funciona.

Esse conhecimento não existe em nenhum sítio oficial. Existe porque pessoas específicas escolheram escrevê-lo e partilhá-lo. A remoção automatizada não apenas elimina um post. Elimina a confiança que fez alguém dar-se ao trabalho de escrever em primeiro lugar.

Quando eliminações erróneas acontecem repetidamente, os colaboradores deixam de colaborar. A comunidade esvazia-se. A plataforma acaba por ter menos conteúdo autêntico do que tinha no início, o que é o oposto do que a moderação pretendia alcançar.

O que as plataformas devem fazer em vez disso?

A resposta honesta é que ninguém tem uma solução perfeita ainda. As ferramentas de IA podem ajudar moderadores humanos a priorizar as suas filas, marcando conteúdo suspeito para revisão em vez de o eliminar imediatamente. Isto mantém uma pessoa no processo.

As plataformas poderiam também dar aos colaboradores de longa duração um período de carência antes de qualquer ação automatizada entrar em vigor, ou facilitar uma apelação rápida a uma remoção.

O que o incidente de r/AskHistorians ilustra é um princípio simples: a automatização que não consegue distinguir entre um mau actor e um membro dedicado da comunidade não é uma rede de segurança. É uma alçapão.

Perguntas frequentes

Os posts removidos podem ser recuperados?

Às vezes. Os moderadores do Reddit com as permissões apropriadas podem restaurar posts que foram automaticamente removidos, mas apenas se apanharem o erro rapidamente e os próprios sistemas da plataforma ainda tiverem uma cópia. As eliminações mais antigas são mais difíceis de desfazer.

Isto afeta apenas o Reddit?

Não. Qualquer plataforma que utilize moderação automatizada de conteúdo, o que inclui a maioria das grandes redes sociais, enfrenta o mesmo trade-off entre velocidade e precisão. A estrutura aberta de moderação do Reddit tornou esta falha particular visível; outras podem passar despercebidas.