Substack теперь позволяет читателям проверять посты на наличие текстов, написанных ИИ

Ключевые моменты

• Substack начал развёртывание инструмента обнаружения текста ИИ на своей веб-платформе и приложении iOS во вторник.
• Инструмент работает на основе Pangram, компании по обнаружению ИИ, и работает с любым контентом длиной более 100 слов.
• Авторы также могут сканировать свои черновики с помощью Pangram перед публикацией и отмечать результаты, которые, по их мнению, неверны.
• Генеральный директор Substack Крис Бест ввёл термин "Claudefishing" для описания контента, который заставляет читателей думать, что его написал человек.

Substack хочет, чтобы его читатели знали, написал ли человек то, что они читают, или большую часть работы проделала машина.

Платформа рассылок и социальная сеть начала развёртывание встроенного инструмента обнаружения ИИ, работающего на основе компании Pangram, которая специализируется на определении текстов, созданных ИИ. Читатели могут запустить сканирование любого поста, заметки, ответа или комментария длиной более 100 слов. Просто нажмите на меню с тремя точками в верхнем правом углу поста и выберите "Scan for AI text". Инструмент выдаёт оценку того, какая часть текста могла быть написана ИИ или значительно облегчена им.

Функция уже доступна в веб-версии и приложении Substack для iOS. Поддержка Android скоро появится, как первым сообщил The Verge AI.

Сооснователь и генеральный директор Substack Крис Бест охарактеризовал это решение как проблему доверия, а не запрет на технологию. "Основная проблема не в том, что люди используют ИИ, или в качестве его результатов," написал Бест в блог-посте. "Проблема в том, когда возникает несоответствие между ожиданиями читателя и реальностью."

Бест дал этому несоответствию название: Claudefishing. Это игра слов на основе catfishing, когда кто-то притворяется в интернете кем-то другим, только здесь автор делает вид, что человеческая мысль лежит в основе текста, который на самом деле создала большая языковая модель, технология, стоящая за чат-ботами вроде ChatGPT.

Инструмент имеет реальные ограничения. Бест откровенен по их поводу. Pangram может сказать вам, повлиял ли ИИ на слова на странице. Но он не может определить, потратил ли автор часы на тщательное направление, редактирование и проверку фактов этого результата ИИ. Продумано вспомогательный текст и небрежно созданный могут получить одинаковые оценки.

Чтобы заполнить этот пробел, Substack также добавляет добровольное заявление "How I make this", где авторы могут объяснить свой процесс своими словами. Думайте об этом как о этикетке питательной ценности для творческой работы.

Должны ли читатели доверять результатам сканирования?

Воспринимайте их как полезный сигнал, а не вердикт. Оценка Pangram — это вероятность, а не доказательство. Сам Бест отмечает, что она может давать неточные результаты, именно поэтому авторы получают возможность отмечать и оспаривать оценку, которую они считают неправильной.

Для обычных читателей Substack практический результат простой. Если вы платите за рассылку или уделяете внимание автору, теперь у вас есть быстрый способ проверить, действительно ли человек написал то, что вы читаете. Это больше, чем предлагает большинство платформ.

Бест выразился ясно: "Платформы, которые вознаграждают поддельность, создадут гонку ко дну."