Reddit замінює свого старого модеративного бота на AI, який розуміє намір, а не просто ключові слова
Новий інструмент під назвою Rules Hub використовує великі мовні моделі для визначення того, чи дійсно пост порушує правило. Reddit планує розгорнути його на всьому сайті пізніше цього року.
Ключові моменти
- Reddit запустив Rules Hub, інструмент модерування на основі AI, для всіх новоствірених спільнот у 2025 році, з запланованим розгортанням на всьому сайті пізніше в 2026 році.
- Rules Hub використовує великі мовні моделі (технологію, яка лежить в основі чат-ботів як ChatGPT) для оцінки того, чи пост порушує намір правила, а не просто його формулювання.
- Reddit заявляє, що Rules Hub врешті-решт замінить багато завдань забезпечення, які зараз виконуються Automoderator, його десятирічною системою пошуку за ключовими словами.
- Reddit також обмежує доступ до свого API — технічного каналу, який сторонні додатки використовують для підключення до платформи, вимагаючи від розробників перейти на власну платформу розробників Reddit.
- Компанія планує обмежити доступ до старого Reddit як частину своєї боротьби з несанкціонованим скрепленням даних.
Протягом більшої частини історії Reddit утримання спільнот у чистоті лягло на плечі інструменту під назвою Automoderator. Він працював як система пошуку та позначення: модератори написали правила, які шукали конкретні слова або шаблони, а Automoderator діяв, коли знаходив збіг. Просто, але неловко. Пост міг уникнути блокування, замінивши одне слово. Тонкий коментар міг спрацювати фільтр, який не мав би його спрацьовувати.
Reddit хоче виправити це за допомогою Rules Hub.
Як насправді працює Rules Hub?
Замість пошуку точних слів, Rules Hub передає кожен пост або коментар великій мовній моделі (того ж типу AI, який живить сучасні чат-боти) і просить її оцінити, чи пост порушує дух правила. За словами Reddit, це дозволяє системі справлятися із граничними випадками та природним формулюванням, які збивають з пантелику старі фільтри за ключовими словами.
Модератори все ще встановлюють правила та вирішують, що відбувається, коли його порушено. AI — це читач, а не суддя.
Reddit розповів The Verge, що Rules Hub тестувався модераторами з понад 700 спільнот протягом останніх кількох місяців. Починаючи з цього тижня, він доступний для всіх новоствірених subreddits, а більш широкий розгортання очікується протягом 2026 року.
Чи змінить це щось для звичайних користувачів Reddit?
Ймовірно, так, з часом. Якщо Rules Hub розгорнеться широко, модерування контенту повинне стати послідовнішим. Коментар, який технічно уникає заборонених слів, але явно порушує намір правила, більш імовірно буде виловлено. З іншого боку, граничний пост, який старі фільтри за ключовими словами помилково видалили б, може вижити.
Reddit заявив, що Rules Hub буде необов'язковим, принаймні спочатку. Але власна запис в блозі компанії сигналізує, що дні забезпечення Automoderator лічені. Reddit написав, що Rules Hub «може врешті-решт замінити багато робочих процесів забезпечення, на які спільноти покладаються від Automod».
Окремо від модерування, Reddit оголосив про дві інші зміни того ж дня. По-перше, він вимагатиме від нових сторонніх додатків будуватися на платформі розробників Reddit, а не на його відкритому API. Це важливо, тому що зміни ціноутворення API 2023 року, які змусили кілька популярних додатків Reddit закритися, випливали саме з цієї напруги між відкритим доступом та контролем платформи.
По-друге, Reddit обмежує старий Reddit, застарілий інтерфейс, який деякі довгострокові користувачі віддають перевагу, користувачами, які увійшли в обліковий запис, у короткостроковій перспективі. Зазначена причина — запобігання автоматизованим скреперам від збирання контенту Reddit для навчання AI моделей без оплати за це. Reddit уже подав позов проти Anthropic та Perplexity із подібних причин.
На що мають звернути увагу модератори та користувачі?
Якщо ви модеруєте subreddit, Rules Hub надходить як опція, а не мандат, поки що. Варто протестувати його на менших спільнотах перед тим, як покладатися на нього для будь-чого, що несе високий ризик.
Якщо ви використовуєте сторонній додаток Reddit, перевірте, чи розробник оголосив плани переміщення на платформу розробників Reddit. Додатки, які не здійснять перехід, можуть перестати працювати, як тільки Reddit забезпечить нову вимогу, хоча компанія заявляє, що надасть «достатньо часу» до того, як це станеться.
