Две трети людей думают, что ChatGPT обладает сознанием. Философ говорит, что мы сами себя обманываем уже десятилетия.

Ключевые моменты

• Две трети опрошенных людей верят, что инструменты искусственного интеллекта, такие как ChatGPT, текстовый чат-бот компании OpenAI, обладают какой-то формой сознания или чувств.
• Американская феминистская учёная Элизабет Спельман ввела термин «соматофобия» в статье 1982 года, описав убеждение, что люди — это скорее умы, чем тела.
• Философ и автор Мелани Челленджер утверждает в статье в The Guardian, что современный искусственный интеллект — это наиболее мощная версия этого заблуждения на сегодняшний день.
• Ни одна существующая система искусственного интеллекта не доказала наличие чувств или сознания в научно проверяемом смысле.

Большинство людей, если спросить, испытывает ли их ноутбук боль, ответят отрицательно. Но задайте тот же вопрос о ChatGPT, и ответ становится менее определённым.

Недавний опрос показал, что две трети респондентов верят, что инструменты искусственного интеллекта, такие как ChatGPT, обладают какой-то формой сознания или чувств. Философ Мелани Челленджер думает, что знает причину.

Почему столько людей думают, что у искусственного интеллекта есть чувства?

Потому что мы давно путаем интеллект с внутренней жизнью. Челленджер возводит эту путаницу к тому, что учёная Элизабет Спельман назвала в своей статье 1982 года «соматофобией»: буквально, страхом перед телом. Спельман использовала этот термин для описания распространённого человеческого заблуждения, что мы по сути являемся умом, а тело — лишь сосуд.

Западная философия на протяжении столетий рассматривала мыслящий разум как центр подлинного «я», а физическое тело — как нечто вторичное. Если мышление — это то, что имеет значение, то всё, что кажется способным думать, может показаться живым в значимом смысле.

Чат-боты с искусственным интеллектом создают бегло звучащие, эмоционально созвучные тексты, которые похожи на мышление. Но это не мышление в том смысле, как работает человеческий мозг. Большая языковая модель, технология, лежащая в основе инструментов типа ChatGPT и Gemini от Google, работает путём предсказания того, какое слово наиболее правдоподобно следует за предыдущим, опираясь на закономерности из огромного объёма человеческих текстов. Там нет тела. Нет голода, нет сердцебиения.

Имеет ли это значение для обычных людей?

Да, в практическом смысле. Если вы верите, что чат-бот действительно понимает вашу ситуацию, вы можете доверять его советам больше, чем следовало бы. Медсестра, использующая инструмент искусственного интеллекта для составления записей о пациентах, или учитель, полагающийся на чат-бот для обратной связи, получает статистически правдоподобный результат, а не обдуманное мнение от чего-то, что понимает, что на кону. Мы рассмотрели эту динамику в нашей статье от 24 июля о тесте профессора из Гарварда для определения того, когда искусственный интеллект действительно полезен.

Аргумент Челленджер, представленный The Guardian, не в том, что искусственный интеллект бесполезен. Это то, что принятие сложной текстовой машины за сознательное существо искажает то, как мы его используем и как мы его регулируем. Когда люди чувствуют, что искусственный интеллект чувствующий, они могут наделить его моральным статусом, который он не заработал, или почувствовать себя обманутыми, когда он их подводит в человеческий момент.

Нет научного консенсуса в поддержку идеи, что какая-либо существующая система искусственного интеллекта обладает сознанием. Вопрос остаётся открытым для будущих систем, построенных на других принципах, но сегодняшние чат-боты — не те системы.

Что читатели должны взять из этого?

Скептицизм — это практический инструмент. Чат-бот может быть полезным, не будучи живым. Рассматривать его как функцию автодополнения, которая хорошо начитана, а не как эмпатичный разум, одновременно более точно и безопаснее.

Результат опроса напоминает, что дизайн этих инструментов — гладкий, тёплый, разговорный — мощно влияет на восприятие. Об этом стоит помнить каждый раз, когда чат-бот кажется вам действительно понимающим.

Часто задаваемые вопросы

Действительно ли ChatGPT обладает сознанием?

Нет научных доказательств в поддержку этого утверждения. ChatGPT — это большая языковая модель, которая создаёт текст путём предсказания вероятных последовательностей слов; у неё нет тела, нет биологических процессов и нет проверенного внутреннего опыта.

Что такое соматофобия в этом контексте?

Это термин, введённый учёной Элизабет Спельман в 1982 году, для обозначения ошибочного убеждения, что люди — это по сути умы, а не физические тела, предубеждение, которое делает нас более склонными видеть мыслящие машины как живые.

Должен ли я перестать использовать чат-боты с искусственным интеллектом?

Не обязательно. Практический совет — использовать их как инструменты, а не как советчиков с подлинным пониманием, и проверять всё важное у квалифицированного специалиста.