Штучно згенеровані праворадикальні меми заповнюють Facebook. Ось як працює цей механізм.

Ключові моменти

• AI-інструменти тепер дозволяють зловмисникам виробляти сотні політично заряджених мемів на день практично без людської участі.
• Ці дописи поширюються найефективніше на Facebook, де алгоритмічні рекомендації, автоматизовані системи, що вирішують, що ви побачите далі, сприяють контенту, який викликає сильні реакції.
• Контент дотримується розпізнаваної формули: скандальний заголовок, штучно генероване зображення, мінімальна факторна основа.
• Дослідники та журналісти задокументували зростання так званого «AI slop» — низькоякісного штучно генерованого контенту, випущеного чисто заради кліків та залучення аудиторії.

First Dog on the Moon, довгостроковий сатиричний комічний стрип, опублікований The Guardian, нещодавно звернув свою увагу на тренд, який абсолютно не смішний: меми-фабрики, що використовують штучний інтелект для заповнення Facebook праворадикальним політичним контентом.

Цей комікс — гостра сатира. История, що стоїть за ним, реальна.

Що саме є меми-фабрикою «AI slop»?

Думайте про це як про конвеєр контенту, за винятком того, що люди його майже не торкаються. Хтось налаштовує генератор AI-зображень, такий інструмент, який виробляє готове зображення з короткого текстового опису, і поєднує його з AI-інструментом для написання. Система потім виробляє десятки або сотні дописів на день, кожен з яких розроблений так, щоб виглядати як низова політична думка.

Дописи часто мають розпізнаваний формат. Лякаючий заголовок. Генероване зображення натовпу, прапору або політичного діяча. Короткий підпис, розроблений, щоб розлютити вас настільки, щоб ви хотіли його поділити.

Нічого з цього не потребує журналіста, фотографа або навіть багато часу.

Чому Facebook продовжує показувати цей контент людям?

Алгоритм рекомендацій Facebook, програмне забезпечення, яке вибирає, які дописи появляються у вашій стрічці, нагороджує залучення. Лайки, поділи та розлючені реакції всі вважаються залученням. Контент, розроблений для викликання сильних почуттів, поширюється більше людей, що генерує більше реакцій, які поширюють його далі.

Цей контур зворотного зв'язку не новий. Що змінилося, так це пропозиція. AI-інструменти скоротили вартість виробництва емоційно заряджного контенту майже до нуля.

На що читачам варто звернути увагу?

Кілька сигналів зазвичай з'являються разом у дописах «AI slop». Зображення, які виглядають майже фотографічними, але мають дивні деталі: дивні руки, розмиті текстові фони або обличчя, які виглядають трохи офф. Підписи, які використовують розмашисту емоційну мову, але не цитують жодного джерела. Профілі акаунтів, які дописують багато разів на день, кожен день, часто на одну й ту саму тему.

Якщо дописна змушує вас хотіти негайно його поділити, це варто обдумати. Ця реакція зазвичай саме метою.

Підозра тут — це не паранойя. Це просто хорошу гігієну читання в середовищі, де обсяг генерованого контенту продовжує зростати, а інструменти для його створення стають дешевшими та легшими у використанні.

Поширені запитання

Чи є цей контент незаконним?

У більшості країн генерування або поширення політичних мемів, навіть оманливих, не є автоматично незаконним. Там, де це переходить у незаконність, це коли це включає видавання себе за дійсних людей, втручання у вибори або скоординовану неавтентичну поведінку, яка порушує правила платформи.

Чи може Facebook автоматично виявити та видалити цей контент?

Facebook використовує автоматизовані системи для виявлення деякого штучно генерованого контенту, але інструменти, які створюють дописи, вдосконалюються приблизно з тією ж швидкістю, що й інструменти, які їх виявляють. Команди людського огляду залишаються частиною процесу, хоча критики стверджують, що масштаб проблеми перевищує поточну потужність модерації.