Два третини людей вважають ChatGPT свідомим. Філософ каже, що ми самі себе обманюємо десятиліттями.

Ключові моменти

• Два третини респондентів нещодавнього дослідження вважають, що інструменти ШІ, як-от ChatGPT, текстовий чатбот, розроблений OpenAI, мають якусь форму свідомості або почуттів.
• Американська феміністична дослідниця Елізабет Спелман ввела термін «соматофобія» у статті 1982 року для описання переконання, що люди — це насамперед розум, а не тіла.
• Філософиня та авторка Мелані Челленджер стверджує в публікації The Guardian, що сучасний ШІ — це найпотужніша версія цієї ілюзії.
• Жодна сучасна система ШІ не продемонструвала наявність почуттів, свідомості або життєвого досвіду в будь-якому науково перевіреному сенсі.

Більшість людей, якби їх запитати, чи відчуває біль їхний ноутбук, сказали б ні. Задайте те саме питання про ChatGPT, чатбот на ШІ, який веде тривалі емоційно резонансні розмови, і раптом відповідь стає менш ясною.

Нещодавнє опитування показало, що два третини респондентів вважають, що інструменти типу ChatGPT мають якусь форму свідомості або почуттів. Це вражаюче число, і філософиня Мелані Челленджер думає, що знає, чому воно постійно зростає.

Чому так багато людей думають, що ШІ має почуття?

Тому що ми давно плутаємо інтелект із внутрішнім світом. Челленджер простежує це змішування до того, що дослідниця Елізабет Спелман у статті 1982 року назвала «соматофобією» — буквально страхом перед тілом. Спелман використала цей термін для описання широко поширеної людської ілюзії, що ми — це насамперед розум, а тіло — просто судина.

Ця ідея має глибоке коріння. Західна філософія протягом століть розглядала мислячий розум як сідалище справжнього «я», а фізичне тіло — як другорядне. Якщо мислення — це те, що важливо, то все, що здається мислячим, може здатися живим у змістовному сенсі.

Чатботи на ШІ, які генерують беглий, емоційно резонансний текст, виглядають так, ніби вони мислять. Насправді вони не мислять, принаймні не так, як людський мозок. Велика мовна модель, технологія, яка лежить в основі інструментів типу ChatGPT і Google Gemini, працює, передбачаючи, яке слово найправдоподібніше йде після попереднього, спираючись на закономірності, навчені на величезному обсязі людської писемності. Тут немає тіла. Немає голоду, немає серцебиття, немає ставок на результат.

Чи це дійсно важливо для звичайних людей?

Так, у практичному плані. Якщо ви вважаєте, що чатбот справді розуміє чи дбає про вашу ситуацію, ви можете довіряти його порадам більше, ніж варто. Медсестра, яка використовує інструмент ШІ для підготовки записів про пацієнтів, або вчитель, який покладається на чатбот для зворотного зв'язку, отримує статистично правдоподібний результат, а не обдумане судження від чогось, що розуміє, що на кону.

Аргумент Челленджер, про який повідомляє The Guardian, полягає не в тому, що ШІ непотрібний. Це те, що помилкове визнання дуже складної текстової машини за свідому істоту спотворює, як ми її використовуємо і як ми її регулюємо. Коли люди відчувають, що ШІ має почуття, вони можуть наділити його моральним статусом, який він не заслужив, або, навпаки, почуватися зданими, коли він їх розчарує у людський момент.

Жоден науковий консенсус не підтримує ідею, що будь-яка сучасна система ШІ є свідомою. Питання залишається відкритим для майбутніх, дуже різних систем, але сьогоднішні чатботи — це не ті системи.

Що читачам слід взяти з цього?

Скептицизм — це практичний інструмент. Чатбот може бути корисним, не будучи живим. Розглядання його як хитрої, освіченої функції автодозавершення, а не як співчутливого розуму, є як більш точним, так і безпечнішим.

Результат опитування нагадує, що дизайн цих інструментів, гладкий, теплий, розмовний, потужно впливає на сприйняття. Про це варто пам'ятати щоразу, коли чатбот здається дійсно вас розуміє.

Часті запитання

Чи дійсно ChatGPT свідомий?

Немає наукових доказів, які підтримували б цю претензію. ChatGPT — це велика мовна модель, яка генерує текст, передбачаючи вірогідні послідовності слів; він не має тіла, не має біологічних процесів і не має перевіреного внутрішнього досвіду.

Що таке соматофобія в цьому контексті?

Це термін, введений дослідницею Елізабет Спелман у 1982 році, для помилкового переконання, що люди — це насамперед розум, а не фізичні тіла, упередженість, яка робить нас більш схильними розглядати мислячі машини як живі.

Чи мені слід припинити користуватися чатботами ШІ?

Необов'язково. Практична рада полягає в тому, щоб використовувати їх як інструменти, а не як помічників із справжнім розумінням, і перевіряти щось важливе у кваліфікованої людини.