Детектори AI письма руйнують кар'єри. Вони також часто помиляються.
Студентів відраховували, книжкові угоди розпадалися, а журналістів переслідували — все на основі інструментів виявлення AI, які їхні власні творці визнають недостатньо надійними.
Ключові моменти
- Угода на 2 мільйони доларів була скасована у 2025 році, коли видавництво Minotaur звинуватило автора Джеррі Фалейда в використанні AI; він це заперечує.
- 43 відсотки вчителів американських шкіл з 6-го по 12-й клас регулярно використовували детектори AI у період 2024–2025 років, за даними Центру демократії та технологій.
- Дослідження Стенфордського університету 2023 року показало, що детектори AI помилково позначають есе авторів, для яких англійська мова не є рідною, як створені AI значно частіше, ніж есе для яких вона є рідною.
- Йельський, MIT, Джонс Гопкінс, Вандербільт та Джорджтаун кожен обмежив або відключив інструменти виявлення AI на території кампусу.
- OpenAI закрила свій власний детектор письма AI у 2023 році, оскільки він був недостатньо точним для використання.
Детектори AI письма — програмні інструменти, які претендують на те, щоб визначити, чи була текст написаний людиною чи машиною, існують з моменту запуску ChatGPT наприкінці 2022 року. Вони обіцяли те, що відчайдушно потрібні педагогам та редакторам: надійний спосіб виявити роботи, створені AI. На практиці результати набагато складніші.
Інструменти працюють, подаючи текст у власні моделі AI, які шукають закономірності, які вважаються характерними для машинного письма: повторюваннями фразувань, надмірно формальним тоном, реченнями, які слідують одній і тій самій структурі, та тим, що деякі інструменти називають низькою «непередбачуваністю», що означає, що текст занадто слідує очевидним виборам слів. Це явно відрізняється від старих перевірок на плагіат, які просто порівнювали ваше есе з базою даних відомих текстів, щоб знайти збігаючі речення.
Ця різниця має значення. Збіг скопійованого тексту — це конкретна річ. Судження про те, чи звучить письмо занадто машиноподібно, набагато більш суб'єктивне.
Ці інструменти насправді працюють?
Не достатньо надійно, щоб руйнувати чиєсь життя. Turnitin, один із найбільш широко використовуваних сервісів, стверджує, що його інструмент дає хибні позитивні результати (помилково позначає людське письмо як AI) менш ніж у одному відсотку випадків. Pangram стверджує один хибний результат на кожні 10 000 сканувань. Але навіть ці компанії попереджають користувачів не діяти лише на основі результатів.
Turnitin говорить, що його детектор «може не завжди бути точним» і не повинен використовуватися для вжиття заходів проти студента. Grammarly радить користувачам «ніколи не покладатися лише на результати детектора AI». GPTZero говорить, що «жоден детектор AI ніколи не може бути абсолютно ідеальним на 100 відсотків». OpenAI, компанія, яка створила ChatGPT, закрила власний інструмент виявлення у 2023 році після висновку про те, що точність була занадто низькою, щоб бути корисною.
Дослідження Стенфорда 2023 року чіткіше показує, хто страждає найбільше. Дослідники виявили, що інструменти позначають есе авторів, для яких англійська мова не є рідною, як створені AI частіше, ніж есе для яких вона є рідною. Письмо, яке є формальним, обережним або структурно послідовним, може активізувати детектори, і це типові закономірності для тих, хто пише на своїй другій мові.
Що пішло не так на практиці?
Наслідки були серйозними. Студент Адельфійського університету виграв судовий процес на початку 2025 року після того, як його професор звинуватив його у використанні AI для написання есе — висновок, який, як видається, спирався на Turnitin. Французька студентка подала позов проти Йельського університету після того, як отримала незадовільну оцінку та однорічне відрахування на основі сканування GPTZero. Її позов стверджує, що «інструменти спостереження та виявлення AI відомі своїм несправедливим спрямуванням проти носіїв мови, для яких вона не є рідною».
Крім школи, Minotaur скасувала угоду Джеррі Фалейда на 2 мільйони доларів через занепокоєння щодо AI, які він заперечує. Журналістка Кет Тенбардж, співавтор The Verge, публічно звинуватила Джеком Озборном у використанні AI для статті у Rolling Stone. Його доказом був результат інструменту під назвою Getsolved. Вона це заперечує. Звинувачення та пов'язані з ним переслідування залишаються в мережі.
| Інструмент | Заявлена частота хибних позитивних результатів | Статус |
|---|---|---|
| Turnitin | Менше 1% | Активний, попереджає проти самостійного використання |
| Pangram | 1 на 10 000 | Активний, вбудований у Substack |
| GPTZero | «Аналогічно низька» | Активний |
| Детектор OpenAI | Не розголошується | Закритий у 2023 році |
Що повинні робити студенти та письменники?
Кілька провідних університетів провели чітку лінію. MIT прямо застерігає, що «детектори AI не працюють». Йельський, Джонс Гопкінс, Вандербільт та Джорджтаун кожен відключив або обмежив їхнє використання. Замість цього школи, як-от Стенфорд та Університет Чікаго, просять професорів переробити завдання: письмо в класі, поетапні чернетки та чесні розмови про те, коли допомога AI є прийнятною.
Для письменників поза академічним світом Гільдія авторів тепер пропонує сертифікацію «Human Authored». Незалежні значки від Not by AI та Written by Human існують для всіх, хто хоче публічно відмітити свою роботу. Вони добровільні, неперевіряємі та дещо іронічні, але вони відображають, наскільки тривожною стала ця момент.
Якщо ви отримали звинувачення в використанні AI на основі результату детектора, найважливіше знати це: самі інструменти говорять, що вони не є доказом. Запитайте, який інструмент був використаний, попросіть конкретні фрагменти, які були позначені, та вкажіть звинувачувачеві на відмовлення від відповідальності, які компанія публікує на своєму веб-сайті.
Поширені питання
Чи може детектор AI створити мені неприємності, навіть якщо я все написав сам?
Так. Кожен великий детектор признає наявність хибних позитивних результатів, і дослідження Стенфорда 2023 року показало, що люди, для яких англійська мова не є рідною, стикаються з вищою частотою хибних результатів. Результат детектора сам по собі не є доказом неправомірної поведінки.
Чи дозволено школам карати студентів на основі виявлення AI самостійно?
Turnitin явно говорить, що його інструмент не повинен використовуватися як єдина основа для вжиття заходів проти студента. Кілька університетів повністю заборонили використання цих інструментів, і принаймні у двох судових справах в США суди виступили проти шкіл, які на них покладалися.
