Інструменти AI для модерації видаляють дворічні дописи Reddit — це попередження для всіх соцмереж
Масова хвиля автоматичних видалень в одній з найповажніших спільнот Reddit показує, що відбувається, коли платформи борються зі сміттям, створеним AI, за допомогою ще більшої кількості AI, і чому справжня вартість розраховується на тих, хто побудував ці спільноти.
Ключові моменти
- У квітні 2025 року десятки дописів та коментарів з десятирічною історією були автоматично видалені з r/AskHistorians — однієї з найретельніше модерованих спільнот Reddit.
- Модератори вперше помітили проблему, коли канал Slack, який використовувався для відстеження сповіщень про модерацію, був завалений неочікуваними повідомленнями про видалення.
- Інструменти автоматичної модерації контенту — програмне забезпечення, яке автоматично позначає або видаляє дописи на основі судження AI, а не прочитання людиною — поширюються на всіх платформах соцмереж.
- Дослідники та модератори попереджають, що використання AI для боротьби зі спамом, генерованим AI, може охопити справжній, цінний контент, створений людьми.
Модератори r/AskHistorians гордяться тим, що керують однією з найжорсткіше контрольованих спільнот Reddit. Історики, науковці та ентузіасти відповідають на питання з обґрунтованими, детальними відповідями. Стандарти високі. Архів налічує роки.
Тому коли канал Slack, який команда модераторів використовує для відстеження вхідних сповіщень про модерацію, раптово заповнився сотнями повідомлень у квітні, було очевидно, що щось пішло не так. Десятки дописів та коментарів, деякі з яких мають віковість близько десяти років, були автоматично видалені.
Про цей факт вперше повідомила Ars Technica.
Що пішло не так?
Винуватцем виявилася автоматична модерація контенту: інструменти AI, які сканують дописи та видаляють все, що вони позначають як проблемне, без остаточного рішення людини. Платформи дедалі частіше звертаються до цих інструментів, оскільки обсяг спаму, генерованого AI, також називаного «AI сміттям», та ненависного контенту зростає.
Логіка зрозуміла. Людські модератори не можуть прочитати все. AI може обробляти мільйони дописів за хвилину.
Але класифікатори AI — частина системи, яка вирішує, чи є допис хорошим або поганим, — допускають помилки. Вони не мають контексту. Дворічна відповідь тренованого історика для системи розпізнавання шаблонів виглядає дуже схоже на свіжогенерований наповнювальний текст, якщо письмо довге та детальне. Система видаляє обидва.
Чому це важливо для звичайних користувачів?
Подумайте про форум, який ви використовували для вирішення реальної проблеми: гілку, яка пояснювала медичний симптом, спільноту, яка допомогла вам виправити зламану техніку, місцеву групу, де люди діліться тим, що насправді спрацьовує.
Це знання не живе на жодному офіційному веб-сайті. Воно існує, тому що конкретні люди вирішили записати його та поділитися. Автоматичне видалення видаляє не просто допис. Воно видаляє довіру, яка спонукала когось потривожитися писати.
Коли помилкові видалення повторюються неодноразово, автори перестають робити внески. Спільнота спорожніває. Платформа в результаті отримує менше автентичного контенту, ніж вона почала, що протилежно тому, що мала досягти модерація.
Що мають робити платформи натомість?
Чесна відповідь полягає в тому, що ніхто ще не має чистого рішення. Інструменти AI можуть допомогти людським модераторам розставити пріоритети в їхніх чергах, позначаючи підозрілий контент для перевірки, а не видаляючи його одразу. Це утримує людину в контурі.
Платформи також можуть надати давнім учасникам період льготи перед будь-яким автоматичним дійством або полегшити швидку апеляцію на видалення.
Інцидент з r/AskHistorians ілюструє простий принцип: автоматизація, яка не може розрізнити поганого гравця та присвяченого члена спільноти, — це не страхувальна сітка. Це пастка.
Поширені питання
Чи можна відновити видалені дописи?
Іноді. Модератори Reddit з відповідними дозволами можуть відновити дописи, які були автоматично видалені, але тільки якщо вони швидко впіймають помилку та система самої платформи все ще зберігає копію. Старіші видалення важче скасовувати.
Це впливає тільки на Reddit?
Ні. Будь-яка платформа, яка використовує автоматичну модерацію контенту, яка включає більшість великих соцмереж, стикається з тим же компромісом між швидкістю та точністю. Відкрита структура модерації Reddit зробила цей конкретний збій видимим; інші можуть залишитися непоміченими.
