Gli strumenti di moderazione AI stanno rimuovendo post di Reddit risalenti a dieci anni fa, e questo è un avvertimento per tutti i social media

Punti chiave

• Ad aprile 2025, decine di post e commenti risalenti a dieci anni fa sono stati automaticamente rimossi da r/AskHistorians, una delle comunità più attentamente moderate di Reddit.
• I moderatori hanno notato il problema quando un canale Slack utilizzato per tracciare gli avvisi di moderazione è stato inondato di notifiche di rimozione inaspettate.
• Gli strumenti di moderazione dei contenuti AI, software che contrassegna o elimina automaticamente post in base al giudizio dell'AI piuttosto che essere letto da un umano, si stanno diffondendo su tutte le piattaforme di social media.
• Ricercatori e moderatori avvertono che usare l'AI per combattere lo spam generato dall'AI può catturare nel processo contenuti autentici e preziosi creati da umani.

I moderatori di r/AskHistorians si vantano di gestire una delle comunità più strettamente controllate di Reddit. Storici, accademici e appassionati rispondono alle domande con risposte dettagliate e fondate. Gli standard sono alti. L'archivio risale indietro di anni.

Quindi quando un canale Slack che il team di moderazione utilizza per tracciare gli avvisi di moderazione in arrivo si è riempito improvvisamente di centinaia di notifiche ad aprile, era chiaro che qualcosa non andava. Decine di post e commenti, alcuni risalenti a quasi un decennio fa, erano stati automaticamente cancellati.

Questo dettaglio è stato riferito per la prima volta da Ars Technica.

Cosa è andato storto?

Il colpevole sembra essere la moderazione automatica dei contenuti: strumenti AI che scansionano i post e rimuovono tutto ciò che contrassegnano come problematico, senza che un umano prenda la decisione finale. Le piattaforme si sono rivolte a questi strumenti in numero crescente poiché il volume di spam generato dall'AI, detto anche "AI slop", e contenuti di odio è aumentato.

La logica è comprensibile. I moderatori umani non possono leggere tutto. L'AI può elaborare milioni di post al minuto.

Ma i classificatori AI, la parte del sistema che decide se un post è buono o cattivo, commettono errori. Non hanno contesto. Una risposta di dieci anni fa da uno storico esperto appare, a un sistema di riconoscimento di modelli, molto simile a testo riempitivo appena generato se la scrittura è lunga e dettagliata. Il sistema cancella entrambi.

Perché questo importa agli utenti ordinari?

Pensa a un forum che hai usato per risolvere un vero problema: un thread che spiegava un sintomo medico, una comunità che ti ha aiutato a riparare un elettrodomestico rotto, un gruppo locale dove le persone condividevano cosa funziona davvero.

Quella conoscenza non vive su nessun sito ufficiale. Esiste perché persone specifiche hanno scelto di metterla per iscritto e condividerla. La rimozione automatica non elimina solo un post. Elimina la fiducia che ha spinto qualcuno a preoccuparsi di scrivere in primo luogo.

Quando le cancellazioni errate accadono ripetutamente, i contributori smettono di contribuire. La comunità si svuota. La piattaforma finisce con meno contenuti autentici di quelli con cui è iniziata, il che è l'opposto di ciò che la moderazione intendeva raggiungere.

Cosa dovrebbero fare le piattaforme invece?

La risposta onesta è che nessuno ha ancora una soluzione pulita. Gli strumenti AI possono aiutare i moderatori umani a dare priorità alle loro code, contrassegnando contenuti sospetti per la revisione piuttosto che eliminarli direttamente. Questo mantiene una persona nel ciclo.

Le piattaforme potrebbero anche concedere ai contributori di lunga data un periodo di grazia prima che qualsiasi azione automatica abbia effetto, o rendere facile appellarsi rapidamente a una rimozione.

Quello che l'incidente di r/AskHistorians illustra è un principio semplice: l'automazione che non può distinguere tra un cattivo attore e un membro dedicato della comunità non è una rete di sicurezza. È una trappola a soffietto.

Domande comuni

I post rimossi possono essere recuperati?

Talvolta. I moderatori di Reddit con i permessi giusti possono ripristinare i post che sono stati automaticamente rimossi, ma solo se catturano l'errore rapidamente e i sistemi della piattaforma stessa mantengono ancora una copia. Le cancellazioni più vecchie sono più difficili da annullare.

Questo riguarda solo Reddit?

No. Qualsiasi piattaforma che utilizza moderazione automatica dei contenuti, che include la maggior parte dei grandi social network, affronta lo stesso compromesso tra velocità e precisione. La struttura di moderazione aperta di Reddit ha reso questo particolare fallimento visibile; altri potrebbero non essere notati.