Substack тепер дозволяє читачам сканувати пости на предмет тексту, написаного ШІ

Ключові моменти

• Substack почав розгортати інструмент для виявлення тексту ШІ на своїй веб-платформі та додатку iOS у вівторок.
• Інструмент працює на основі Pangram, компанії, яка спеціалізується на виявленні ШІ, і працює з будь-яким контентом довше 100 слів.
• Автори також можуть сканувати свої чернетки за допомогою Pangram перед публікацією та позначати результати, які вони вважають неправильними.
• Генеральний директор Substack Крис Бест придумав термін «Claudefishing» для описання контенту, який обманює читачів, змушуючи їх думати, що його написала людина.

Substack хоче, щоб його читачі знали, чи написала справжня людина те, що вони читають, або більшість роботи виконала машина.

Платформа для інформаційних бюлетенів і соціальних мереж почала розгортати вбудований інструмент для виявлення ШІ, працює якого компанія Pangram, яка спеціалізується на виявленні текстів, створених ШІ. Читачі можуть запустити сканування будь-якого поста, замітки, відповіді або коментаря довше 100 слів. Просто натисніть меню з трьома крапками у верхньому правому куті поста та виберіть «Сканувати текст ШІ». Інструмент дає оцінку того, скільки письма могло бути створено ШІ або значно вспомагано ним.

Функція доступна на веб-версії та додатку Substack iOS прямо зараз. Підтримка Android буде незабаром, як першим повідомив The Verge AI.

Співзасновник і генеральний директор Substack Крис Бест розглядав цей крок як проблему довіри, а не заборону технології. «Основна проблема не в тому, що люди використовують ШІ, або в якості його результатів», — написав Бест у дописі блогу. «Проблема виникає, коли виникає розбіжність між очікуванням читача і реальністю».

Бест дав цій розбіжності назву: Claudefishing. Це гра слів на основі catfishing, коли хтось видає себе в інтернеті за іншу людину, за винятком того, що тут автор видає за людське мислення текст, який насправді був створений великою мовною моделлю, технологією, що лежить в основі чатботів на кшталт ChatGPT.

Інструмент має реальні обмеження. Бест відвертий щодо них. Pangram може визначити, чи вплинув ШІ на слова на сторінці. Він не може визначити, чи автор витратив години на ретельне спрямування, редагування та перевірку фактів цього результату ШІ. Продуманий твір з використанням ШІ та ліниво створений твір можуть отримати схожі оцінки.

Щоб подолати цей пропуск, Substack також додає добровільний оператор «Як я це роблю», де автори можуть пояснити свій процес своїми словами. Подумайте про це як про етикетку із поживною цінністю для творчої роботи.

Чи повинні читачі довіряти результатам сканування?

Розглядайте їх як корисний сигнал, а не як вердикт. Оцінка Pangram — це ймовірність, а не доказ. Сам Бест зазначає, що вона може давати неточні результати, саме тому автори мають можливість позначити та повідомити про оцінку, яку вони вважають неправильною.

Для звичайних читачів Substack практичний результат простий. Якщо ви платите за інформаційний бюлетень або приділяєте час автору, тепер у вас є швидкий спосіб перевірити, чи справді людина написала те, що ви читаєте. Це більше, ніж пропонує більшість платформ.

Бест висловився ясно: «Платформи, які нагороджують підробку, створять гонку на дно».