OpenAI казала, що GPT-2 занадто небезпечна для випуску. Чи варто було їй вірити?

Ключові пункти

• 14 лютого 2019 року OpenAI оголосила про мовну модель GPT-2, але відмовилася випустити її публічно, стверджуючи, що ризики неправомірного використання занадто великі.
• GPT-2 був прямим попередником моделей, які зараз живлять ChatGPT, Claude та подібні чат-боти на основі ШІ.
• Щонайменше один дослідник вважав цю заяву неінформативною, а зазначені ризики — перебільшеними.
• Цей епізод висвітлює закономірність, яку варто спостерігати: компанії ШІ, які говорять про небезпеку, можуть також говорити про потужність і привертати інвесторів.

Що насправді сталося в 2019 році?

OpenAI розробила мовну модель — тип програмного забезпечення, навчений на величезних обсягах тексту, який дозволяє писати, резюмувати та відповідати на питання, — а потім оголосила про неї світові, відмовившись поділитися нею. Компанія назвала модель GPT-2 та сказала, що вона просто надто ризикована для передачі в руки громадськості.

Занепокоєння, як його сформулювала OpenAI, було зловживанням. Недобросовісні актори могли б використати GPT-2 для написання фейкових новин у масштабі або для заповнення інтернету переконливою дезінформацією. В теорії — розумний страх.

Практично ж принаймні один дослідник залишився незадоволений. Написавши статтю в The Guardian, дослідник із Стенфорда Джон Тіксан згадує, що на той момент відчував дратування. Без доступу до саме моделі він не міг її вивчати, тестувати чи дізнаватися про неї багато. Попередження було голосним; змісту — мало.

Хто виграє, коли компанія ШІ кричить про небезпеку?

Це гостріше питання, і Тіксан ставить його прямо.

Розповідати світу, що ваша технологія небезпечна — це також, мовчки, розповідати світу, що ваша технологія потужна. Потужна технологія привертає інвесторів. Інвестори виписують великі чеки. Компанія, яка щойно попередила всіх про свій страшний ШІ, тепер краще фінансується для розробки більшої його кількості.

Це не змова. Це просто стимул, на який варто звернути увагу.

GPT-2 була врешті-решт повністю випущена, поетапно, пізніше протягом 2019 року. Катастрофічне неправомірне використання, якого боялася OpenAI, не виникло у жодній очевидній, документованій хвилі. Модель стала науковим інструментом. Її наступники, GPT-3, а потім GPT-4, стали двигуном всередині продуктів, якими користуються сотні мільйонів людей сьогодні.

Чи означає це, що попередження про безпеку завжди неправильні?

Ні. Деякі ризики ШІ реальні, і деякі попередження заслуговують серйозної уваги. Мета не в тому, щоб відхилити кожне застереження з кожної лабораторії.

Мета — запитати, хто говорить, що вони можуть отримати, і чи мають стороннім доступ до доказів, що стоять за попередженням. Заява про безпеку, підкріплена опублікованими дослідженнями та незалежним переглядом, — це зовсім інша річ, ніж прес-реліз без моделі.

Коли компанія ШІ наступного разу оголосить, що її остання система одночасно жахливо здатна та занадто чутлива, щоб відкрито поділитися нею, варто зупинитися. Запитайте, що дослідники можуть перевірити без допомоги компанії. Запитайте, хто фінансує наступний раунд інвестицій після того, як заголовки розповсюджуватимуться. Запитайте, чи є описана небезпека конкретною та вимірюваною, чи живою та розпливчастою.

Цікавість та скептицизм — це не протилежність серйозного ставлення до ШІ. Це саме те, як серйозне ставлення до нього виглядає.