Инструменты модерации на основе ИИ удаляют посты Reddit десятилетней давности — это предупреждение для всех социальных сетей

Ключевые моменты

• В апреле 2025 года десятки постов и комментариев, датируемых десятью годами назад, были автоматически удалены из r/AskHistorians — одного из наиболее тщательно модерируемых сообществ Reddit.
• Модераторы впервые заметили проблему, когда канал Slack, используемый для отслеживания оповещений о модерации, был завален неожиданными уведомлениями об удалении.
• Инструменты автоматической модерации контента — это ПО, которое автоматически отмечает или удаляет посты на основе оценки ИИ, а не чтения человеком — распространяются по социальным сетям.
• Исследователи и модераторы предупреждают, что использование ИИ для борьбы со спамом, созданным ИИ, может захватить подлинный, ценный контент, созданный человеком.

Модераторы r/AskHistorians гордятся тем, что управляют одним из самых строго контролируемых сообществ Reddit. Историки, учёные и энтузиасты отвечают на вопросы подробными и аргументированными ответами. Стандарты высокие. Архив охватывает много лет.

Поэтому когда канал Slack, который модераторы используют для отслеживания входящих оповещений о модерации, в апреле внезапно заполнился сотнями уведомлений, было ясно, что что-то пошло не так. Десятки постов и комментариев, некоторым из которых было почти десять лет, были автоматически стёрты.

Об этом впервые сообщило издание Ars Technica.

Что произошло?

Причиной оказалась автоматическая модерация контента: инструменты на основе ИИ, которые сканируют посты и удаляют всё, что они отмечают как проблемное, без принятия окончательного решения человеком. Платформы всё чаще обращаются к этим инструментам, поскольку растёт объём ИИ-generated спама, также называемого «AI slop», и ненавистнического контента.

Логика понятна. Человеческие модераторы не могут прочитать всё. ИИ может обрабатывать миллионы постов в минуту.

Но классификаторы ИИ, та часть системы, которая решает, хорош пост или плох, совершают ошибки. Они не имеют контекста. Десятилетний ответ обученного историка для системы распознавания образов выглядит, как свежий наполнитель, если текст длинный и детальный. Система удаляет оба.

Почему это важно для обычных пользователей?

Представьте себе форум, который вы использовали для решения реальной проблемы: ветку, которая объясняла медицинский симптом, сообщество, которое помогло вам отремонтировать сломанный прибор, локальную группу, где люди делились тем, что действительно работает.

Эти знания не存在 ни на каком официальном веб-сайте. Они существуют потому, что конкретные люди решили их записать и поделиться ими. Автоматическое удаление не просто удаляет пост. Оно удаляет доверие, которое побудило кого-то потрудиться написать в первую очередь.

Когда ошибочные удаления происходят повторно, участники перестают участвовать. Сообщество опустошается. Платформа оказывается с меньшим количеством подлинного контента, чем она начинала, что противоположно тому, к чему была направлена модерация.

Что должны делать платформы вместо этого?

Честный ответ — никто ещё не нашел чистое решение. Инструменты ИИ могут помочь человеческим модераторам расставить приоритеты в своих очередях, отмечая подозрительный контент для проверки, а не удаляя его сразу. Это оставляет человека в цикле.

Платформы также могли бы дать давним участникам период отсрочки перед любым автоматизированным действием или облегчить быструю апелляцию против удаления.

То, что иллюстрирует инцидент с r/AskHistorians, — это простой принцип: автоматизация, которая не может отличить плохого актёра от преданного члена сообщества, — это не страховочная сетка. Это люк в полу.

Частые вопросы

Могут ли удалённые посты быть восстановлены?

Иногда. Модераторы Reddit с соответствующими разрешениями могут восстановить посты, которые были автоматически удалены, но только если они быстро обнаружат ошибку и платформа всё ещё хранит копию. Более старые удаления труднее отменить.

Это влияет только на Reddit?

Нет. Любая платформа, которая использует автоматическую модерацию контента, включая большинство крупных социальных сетей, сталкивается с одним и тем же компромиссом между скоростью и точностью. Открытая структура модераторов Reddit сделала этот конкретный сбой видимым; другие могут остаться незамеченными.