Meme di estrema destra generati da IA inondano Facebook. Ecco come funziona il meccanismo.

Punti chiave

• Gli strumenti di IA ora permettono agli attori malintenzionati di produrre centinaia di meme politicamente carichi al giorno con quasi nessuno sforzo umano.
• Questi post si diffondono più efficacemente su Facebook, dove i sistemi automatici di raccomandazione algoritmica, che decidono cosa vedete dopo, favoriscono i contenuti che provocano reazioni forti.
• Il contenuto segue una formula riconoscibile: titolo scandalizzante, immagine generata da IA, fondamento fattuale minimo.
• Ricercatori e giornalisti hanno documentato un aumento di quello che chiamano "AI slop", contenuti di bassa qualità generati da IA realizzati puramente per click e engagement.

First Dog on the Moon, la striscia di cartoni satirici di lunga data pubblicata da The Guardian, ha recentemente focalizzato la sua attenzione su una tendenza che non ha nulla di divertente: fabbriche di meme che utilizzano l'intelligenza artificiale per inondare Facebook di contenuti politici di estrema destra.

Il cartone è una satira pungente. La storia sottostante è reale.

Che cos'è esattamente una "fabbrica di meme AI slop"?

Pensatela come una catena di montaggio di contenuti, solo che gli umani la toccano appena. Qualcuno configura un generatore di immagini IA, il tipo di strumento che produce un'immagine finita da una breve descrizione di testo, e lo accoppia con uno strumento di scrittura IA. Il sistema quindi produce dozzine o centinaia di post al giorno, ognuno progettato per sembrare un'opinione politica dal basso verso l'alto.

I post spesso hanno una forma riconoscibile. Un titolo allarmante. Un'immagine generata di una folla, una bandiera o una figura politica. Una didascalia breve costruita per farvi arrabbiare abbastanza da condividere.

Niente di tutto questo richiede un giornalista, un fotografo o nemmeno molto tempo.

Perché Facebook continua a mostrare questo contenuto alle persone?

L'algoritmo di raccomandazione di Facebook, il software che sceglie quali post appaiono nel vostro feed, ricompensa l'engagement. Mi piace, condivisioni e reazioni arrabbiate contano tutti come engagement. I contenuti progettati per provocare forti sentimenti vengono spinti a più persone, il che genera più reazioni, che lo spinge ancora più lontano.

Questo ciclo di feedback non è nuovo. Quello che è cambiato è il lato dell'offerta. Gli strumenti di IA hanno ridotto il costo della produzione di contenuti emotivamente carichi quasi a zero.

Cosa dovrebbero cercare i lettori?

Alcuni segnali tendono ad apparire insieme nei post di AI slop. Immagini che sembrano quasi fotografiche ma hanno dettagli strani: mani strane, testo di sfondo sfocato o volti che sembrano leggermente distorti. Didascalie che utilizzano un linguaggio emotivo generale ma non citano alcuna fonte. Profili di account che postano molte volte al giorno, ogni giorno, spesso sullo stesso tema.

Se un post vi viene voglia di condividere immediatamente, vale la pena fare una pausa. Quella reazione è solitamente il punto.

Il sospetto non è paranoia qui. È semplicemente una buona igiene di lettura in un ambiente in cui il volume di contenuti generati continua ad aumentare e gli strumenti per crearli diventano sempre più economici e facili da usare.

Domande comuni

Questo contenuto è illegale?

Nella maggior parte dei paesi, generare o condividere meme politici, anche fuorvianti, non è automaticamente illegale. Dove attraversa il limite dell'illegalità è quando comporta l'impersonazione di persone reali, interferenza elettorale o comportamento non autentico coordinato che viola le regole della piattaforma.

Facebook può rilevare e rimuovere automaticamente questo contenuto?

Facebook utilizza sistemi automatizzati per catturare alcuni contenuti generati da IA, ma gli strumenti che creano i post stanno migliorando approssimativamente allo stesso ritmo degli strumenti che li rilevano. I team di revisione umana rimangono parte del processo, anche se i critici sostengono che la scala del problema supera la capacità di moderazione attuale.