Детекторы ИИ разрушают карьеры. И они часто ошибаются.
Студентов отчисляли, книжные контракты расторгались, а журналистов травили на основании инструментов для обнаружения ИИ, которые сами создатели признают недостаточно надежными.
Ключевые моменты
- В 2025 году издатель Minotaur расторг контракт на сумму 2 миллиона долларов с автором Джерри Фаладе, обвинив его в использовании ИИ; он это отрицает.
- 43 процента учителей с шестого по двенадцатый класс в США регулярно использовали детекторы ИИ в период с 2024 по 2025 год, согласно данным Центра демократии и технологий.
- Исследование Стэнфордского университета 2023 года показало, что детекторы ИИ ошибочно определяют эссе авторов, для которых английский язык не является родным, как написанные ИИ, чаще, чем эссе носителей языка.
- Йельский университет, MIT, Джонс Хопкинс, Вандербильт и Джорджтаун отключили или ограничили использование инструментов для обнаружения ИИ в кампусе.
- OpenAI отключила собственный детектор ИИ в 2023 году, потому что он был недостаточно точным.
Детекторы ИИ — программные инструменты, которые утверждают, что способны определить, написан ли текст человеком или машиной, — существуют с момента запуска ChatGPT в конце 2022 года. Они обещали то, что отчаянно хотели педагоги и редакторы: надежный способ обнаружить работы, созданные ИИ. То, что они дали, оказалось намного сложнее.
Эти инструменты работают, пропуская текст через собственные модели ИИ, которые ищут паттерны, считающиеся типичными для машинного письма: повторяющиеся фразы, излишне формальный тон, предложения, следующие одной и той же структуре, и то, что некоторые инструменты называют низкой «непредсказуемостью», то есть текст слишком придерживается очевидных выборов слов. Это принципиально отличается от старых проверок на плагиат, которые просто сравнивали ваше эссе с базой данных известных текстов, чтобы найти совпадающие предложения.
Это различие имеет значение. Сопоставление скопированного текста — это конкретное доказательство. Оценка того, звучит ли письмо слишком машинообразно, — это намного более субъективный подход.
Действительно ли эти инструменты работают?
Не настолько надежно, чтобы разрушать чью-то жизнь на их основе. Turnitin, один из наиболее широко используемых сервисов, утверждает, что его инструмент дает ложные срабатывания (ошибочно определяя человеческое письмо как ИИ) менее одного процента времени. Pangram заявляет об одном ложном срабатывании на каждые 10 000 проверок. Но даже эти компании предупреждают пользователей не действовать только на основе результатов.
Turnitin говорит, что его детектор «может быть не всегда точным» и не должен использоваться для принятия мер в отношении студента. Grammarly рекомендует пользователям «никогда не полагаться только на результаты детектора ИИ». GPTZero говорит, что «ни один детектор ИИ не может быть абсолютно совершенным». OpenAI, компания, создавшая ChatGPT, отключила собственный инструмент обнаружения в 2023 году, заключив, что точность была недостаточной для практического применения.
Исследование Стэнфорда 2023 года более ясно показало, кто больше всего страдает. Исследователи обнаружили, что эти инструменты определяют эссе авторов, для которых английский язык не является родным, как написанные ИИ, чаще, чем эссе носителей языка. Письмо, которое является формальным, осторожным или структурно последовательным, может вызвать срабатывание детекторов, а это распространенные паттерны для человека, пишущего на втором языке.
Что пошло не так на практике?
Последствия были серьезными. Студент Эдельфи-университета выиграл судебный процесс в начале 2025 года после того, как его профессор обвинил его в использовании ИИ для написания эссе, что, похоже, было основано на результатах Turnitin. Французский студент подал в суд на Йельский университет после того, как получил неудовлетворительную оценку и однолетнее отчисление на основе сканирования GPTZero. В его иске утверждается, что «инструменты ИИ-наблюдения и обнаружения известны своей дискриминацией нативных носителей английского языка».
Вне стен учебных заведений издатель Minotaur расторг контракт Джерри Фаладе на сумму 2 миллиона долларов из-за опасений по поводу использования ИИ, которые он оспаривает. Журналистка Кэт Теннердж, внештатный автор журнала The Verge, была публично обвинена Джеком Озборном в использовании ИИ для написания статьи в Rolling Stone. Его доказательством был результат инструмента под названием Getsolved. Она это отрицает. Обвинение и сопровождающие его травля остаются в интернете.
| Инструмент | Заявленный процент ложных срабатываний | Статус |
|---|---|---|
| Turnitin | Менее 1% | Активен, предупреждает против единственного использования |
| Pangram | 1 на 10 000 | Активен, встроен в Substack |
| GPTZero | «Аналогично низко» | Активен |
| Детектор OpenAI | Не раскрыто | Отключен в 2023 году |
Что должны делать студенты и писатели?
Несколько крупных университетов провели четкую линию. MIT предупреждает категорично, что «детекторы ИИ не работают». Йельский университет, Джонс Хопкинс, Вандербильт и Джорджтаун отключили или ограничили их использование. Вместо этого такие школы, как Стэнфорд и Чикагский университет, просят профессоров переделать задания: письмо на занятиях, поэтапные черновики и честные беседы о том, когда приемлемо использование ИИ.
Для писателей вне академии Authors Guild теперь предлагает сертификацию «Написано человеком». Независимые значки от Not by AI и Written by Human существуют для всех, кто хочет публично отметить свою работу. Это добровольные, непроверяемые и несколько ироничные значки, но они отражают, насколько тревожным стал этот момент.
Если вы получили обвинение в использовании ИИ на основе результата детектора, важно знать одно: сами инструменты говорят, что они не являются доказательством. Спросите, какой инструмент был использован, попросите конкретные фрагменты, которые были определены, и направьте обвинителя на отказ от ответственности, который компания публикует на собственном веб-сайте.
Частые вопросы
Может ли детектор ИИ причинить мне неприятности, даже если я написал все сам?
Да. Каждый крупный детектор признает наличие ложных срабатываний, и исследование Стэнфорда 2023 года показало, что авторы, для которых английский язык не является родным, сталкиваются с более высокими показателями ложных срабатываний. Результат детектора сам по себе не является доказательством неправомерного поведения.
Имеют ли право школы наказывать студентов только на основе обнаружения ИИ?
Turnitin явно заявляет, что его инструмент не должен использоваться в качестве единственного основания для принятия мер в отношении студента. Несколько университетов полностью запретили использование этих инструментов, и по крайней мере два судебных процесса в США привели к решениям против школ, которые на них полагались.
