Memes de Extrema-Direita Gerados por IA Inundam Facebook. Eis Como a Máquina Funciona.

Pontos-chave

• As ferramentas de IA permitem agora que maus atores produzam centenas de memes politicamente carregados por dia com quase nenhum esforço humano.
• Estes posts propagam-se de forma mais eficaz no Facebook, onde as recomendações algorítmicas, os sistemas automatizados que decidem o que vê a seguir, favorecem conteúdo que desencadeia reações fortes.
• O conteúdo segue uma fórmula reconhecível: manchete de indignação, imagem gerada por IA, fundamentação factual mínima.
• Investigadores e jornalistas documentaram um aumento no que chamam "lixo de IA", conteúdo de baixa qualidade gerado por IA produzido unicamente para cliques e engajamento.

First Dog on the Moon, a tira de desenho animado satírico de longa duração publicada pelo The Guardian, focou-se recentemente numa tendência que é tudo menos engraçada: fábricas de memes a usar inteligência artificial para inundar o Facebook com conteúdo político de extrema-direita.

O desenho animado é uma sátira bem visada. A história subjacente é real.

O que exatamente é uma fábrica de memes de "lixo de IA"?

Pense nela como uma linha de montagem de conteúdo, exceto que os humanos mal a tocam. Alguém configura um gerador de imagens de IA, o tipo de ferramenta que produz uma imagem acabada a partir de uma descrição de texto breve, e emparelha-a com uma ferramenta de escrita de IA. O sistema depois produz dezenas ou centenas de posts por dia, cada um concebido para parecer uma opinião política raiz.

Os posts frequentemente levam uma forma reconhecível. Uma manchete alarmante. Uma imagem gerada de uma multidão, uma bandeira, ou um político. Uma legenda breve construída para o deixar suficientemente furioso para partilhar.

Nada disto requer um jornalista, um fotógrafo, ou sequer muito tempo.

Por que é que o Facebook continua a mostrar este conteúdo às pessoas?

O algoritmo de recomendação do Facebook, o software que escolhe quais os posts que aparecem no seu feed, recompensa o engajamento. Gostos, partilhas e reações de raiva contam como engajamento. O conteúdo concebido para provocar sentimentos fortes é impulsionado para mais pessoas, o que gera mais reações, o que o impulsiona ainda mais.

Esse ciclo de retroalimentação não é novo. O que mudou é o lado da oferta. As ferramentas de IA reduziram drasticamente o custo de produção de conteúdo emocionalmente carregado para quase zero.

Pelo que devem estar atentos os leitores?

Alguns sinais tendem a aparecer juntos nos posts de lixo de IA. Imagens que parecem quase fotográficas mas que têm detalhes estranhos: mãos estranhas, texto de fundo desfocado, ou rostos que parecem ligeiramente errados. Legendas que usam linguagem emocionalmente abrangente mas que não citam fonte nenhuma. Perfis de contas que publicam muitas vezes por dia, todos os dias, frequentemente no mesmo tema.

Se um post o deixa com vontade de o partilhar imediatamente, isso merece uma pausa. Essa reação é geralmente o objetivo.

A suspeita não é paranoia aqui. É apenas uma boa higiene de leitura num ambiente onde o volume de conteúdo gerado continua a aumentar e as ferramentas para o criar continuam a ficar mais baratas e fáceis de usar.

Questões frequentes

Este conteúdo é ilegal?

Na maioria dos países, gerar ou partilhar memes políticos, mesmo enganosos, não é automaticamente ilegal. Onde atravessa o limite da ilegalidade é quando envolve personificação de pessoas reais, interferência eleitoral, ou comportamento inautêntico coordenado que viola as regras da plataforma.

Consegue o Facebook detetar e remover este conteúdo automaticamente?

O Facebook usa sistemas automatizados para apanhar algum conteúdo gerado por IA, mas as ferramentas que criam os posts estão a melhorar aproximadamente ao mesmo ritmo que as ferramentas que os detetam. As equipas de revisão humana permanecem parte do processo, embora críticos argumentem que a escala do problema ultrapassa a capacidade atual de moderação.