Reddit заменяет своего старого модератора-бота на ИИ, который понимает намерение, а не просто ключевые слова
Новый инструмент Rules Hub использует большие языковые модели для определения того, действительно ли пост нарушает правило. Reddit планирует развернуть его на всём сайте позже в этом году.
Ключевые моменты
- Reddit запустил Rules Hub, инструмент модерации на основе ИИ, для всех новых сообществ в 2025 году, с планомерным развёртыванием на всём сайте в 2026 году.
- Rules Hub использует большие языковые модели (технология, лежащая в основе чатботов типа ChatGPT), чтобы определить, нарушает ли пост намерение правила, а не только его формулировку.
- Reddit заявляет, что Rules Hub в итоге заменит множество задач по соблюдению правил, которые в настоящее время выполняет Automoderator, её десятилетняя система сопоставления ключевых слов.
- Reddit также ужесточает доступ к своему API, техническому каналу, который используют сторонние приложения для подключения к платформе, требуя от разработчиков перейти на собственную платформу разработчиков Reddit.
- Компания планирует ограничить доступ к старому Reddit в рамках борьбы с несанкционированным сбором данных.
На протяжении большей части истории Reddit ответственность за чистоту сообществ лежала на инструменте под названием Automoderator. Он работал как система поиска и отмечания: модераторы создавали правила, которые искали конкретные слова или паттерны, а Automoderator действовал всякий раз, когда находил совпадение. Просто, но неуклюже. Пост мог избежать бана, заменив одно слово. Нюансированный комментарий мог сработать фильтр, который не должен был его блокировать.
Reddit хочет это исправить с помощью Rules Hub.
Как именно работает Rules Hub?
Вместо сопоставления точных слов Rules Hub передаёт каждый пост или комментарий большой языковой модели (тому же типу ИИ, который питает современные чатботы) и просит её оценить, нарушает ли содержание суть правила. Reddit говорит, что это позволяет системе обрабатывать граничные случаи и естественные формулировки, которые сбивают с толку старые фильтры по ключевым словам.
Модераторы по-прежнему устанавливают правила и решают, что происходит при их нарушении. ИИ — это читатель, а не судья и присяжные.
Reddit сообщил The Verge, что Rules Hub тестировался с модераторами из более чем 700 сообществ в течение последних нескольких месяцев. С этой недели он доступен для всех новых созданных сабреддитов, с более широким развёртыванием, ожидаемым в какой-то момент в 2026 году.
Изменится ли что-нибудь для обычных пользователей Reddit?
Вероятно, со временем да. Если Rules Hub получит широкое распространение, модерация контента должна стать более последовательной. Комментарий, который технически избегает запрещённых слов, но явно нарушает суть правила, с большей вероятностью будет обнаружен. С другой стороны, спорный пост, который старые фильтры по ключевым словам ошибочно удалили бы, может пережить проверку.
Reddit заявил, что Rules Hub будет необязательным, по крайней мере, поначалу. Но собственный блог компании сигнализирует о том, что дни функций соблюдения правил Automoderator считаны. Reddit написал, что Rules Hub «в итоге может заменить множество рабочих процессов соблюдения правил, на которые сообщества полагаются от Automod».
Помимо модерации, Reddit объявил о двух других изменениях в тот же день. Во-первых, он потребует от новых сторонних приложений строиться на платформе разработчиков Reddit, а не на его открытом API. Это важно, потому что изменения цен на API в 2023 году, которые заставили несколько популярных приложений Reddit закрыться, вышли из того же противоречия между открытым доступом и контролем платформы.
Во-вторых, Reddit ограничивает доступ к старому Reddit, устаревшему интерфейсу, который предпочитают некоторые давние пользователи, только вошедшими в систему пользователями в краткосрочной перспективе. Заявленная причина — остановка автоматических парсеров, которые собирают контент Reddit для обучения моделей ИИ без оплаты. Reddit уже подал в суд на Anthropic и Perplexity по аналогичным причинам.
На что следует обратить внимание модераторам и пользователям?
Если вы модерируете сабреддит, Rules Hub приходит как опция, а не как требование, по крайней мере, на данный момент. Стоит протестировать его на небольших сообществах перед полаганием на него в каких-то ответственных целях.
Если вы используете стороннее приложение Reddit, проверьте, объявил ли его разработчик планы миграции на платформу разработчиков Reddit. Приложения, которые не сделают переход, могут перестать работать после того, как Reddit будет соблюдать новое требование, хотя компания говорит, что даст «достаточно времени» до того, как это произойдёт.
