Две трети людей считают, что ChatGPT обладает сознанием. Философ говорит, что мы обманываем себя десятилетиями.

Ключевые моменты

• Две трети опрошенных в недавнем исследовании считают, что инструменты ИИ, такие как ChatGPT, текстовый чатбот компании OpenAI, обладают какой-то формой сознания или чувств.
• Американская феминистская учёная Элизабет Спельман ввела термин «сомафобия» в статье 1982 года для описания убеждения, что люди — это прежде всего разумы, а не тела.
• Философ и автор Мелани Челленджер утверждает в The Guardian, что современный ИИ — это самая мощная версия этого заблуждения из когда-либо созданных.
• Ни одна современная система ИИ не была доказана иметь чувства, сознание или жизненный опыт в каком-либо научно подтверждённом смысле.

Большинство людей, если спросить, чувствует ли боль их ноутбук, ответят отрицательно. Задайте тот же вопрос о ChatGPT, чатботе ИИ, который ведёт долгие, эмоционально живые беседы, и внезапно ответ становится менее определённым.

Недавний опрос показал, что две трети респондентов верят, что инструменты ИИ, такие как ChatGPT, обладают какой-то формой сознания или чувств. Это поразительная цифра, и философ Мелани Челленджер думает, что знает, почему она продолжает расти.

Почему столько людей думают, что ИИ имеет чувства?

Потому что мы давно путаем интеллект с внутренней жизнью. Челленджер отслеживает путаницу до того, что учёная Элизабет Спельман в статье 1982 года назвала «сомафобией»: буквально страхом перед телом. Спельман использовала этот термин для описания широко распространённого человеческого заблуждения, что мы по сути являемся разумом, а тело — лишь сосуд.

Эта идея имеет глубокие корни. Западная философия на протяжении веков рассматривала мыслящий разум как центр реального «я», а физическое тело — как вторичное. Если мышление — это то, что имеет значение, то всё, что выглядит думающим, может показаться живым в значительном смысле.

Чатботы ИИ, которые производят беглый и эмоционально резонансный текст, очень похожи на то, что они думают. Но это не так, по крайней мере не в том смысле, как думает человеческий мозг. Большая языковая модель, технология, стоящая за инструментами, такими как ChatGPT и Google Gemini, работает путём предсказания того, какое слово наиболее вероятно следует за предыдущим, опираясь на закономерности, выученные из огромных объёмов человеческих текстов. Нет тела. Нет голода, нет сердцебиения, нет заинтересованности в результате.

Имеет ли это значение для обычных людей?

Да, в практическом смысле. Если вы верите, что чатбот действительно понимает или заботится о вашей ситуации, вы можете доверять его советам больше, чем следует. Медсестра, использующая инструмент ИИ для помощи в составлении заметок пациента, или учитель, полагающийся на чатбот для обратной связи, получает статистически вероятный результат, а не взвешенное мнение от чего-то, что понимает, что поставлено на карту.

Аргумент Челленджер, о котором сообщает The Guardian, состоит не в том, что ИИ бесполезен. Дело в том, что ошибка, принимающая очень сложную текстовую машину за сознательное существо, искажает способ её использования и регулирования. Когда люди чувствуют, что ИИ является чувствующим, они могут предоставить ему моральный статус, который он не заслужил, или, наоборот, чувствовать предательство, когда он подводит их в очень человеческий момент.

Нет научного консенсуса, поддерживающего идею о том, что какая-либо современная система ИИ является сознательной. Вопрос остаётся действительно открытым для будущих, совершенно других систем, но сегодняшние чатботы — это не те системы.

Что читатели должны из этого взять?

Скептицизм — это практический инструмент здесь. Чатбот может быть полезным, не будучи живым. Рассматривание его как умную, хорошо осведомлённую функцию автозаполнения, а не как сочувствующий разум, как более точно, так и безопаснее.

Результат опроса напоминает, что дизайн этих инструментов, гладкий, тёплый, разговорный, мощно формирует восприятие. Это стоит иметь в виду каждый раз, когда чатбот кажется вас действительно понимающим.

Часто задаваемые вопросы

Является ли ChatGPT действительно сознательным?

Нет научных доказательств, поддерживающих это утверждение. ChatGPT — это большая языковая модель, которая генерирует текст путём предсказания вероятных последовательностей слов; у неё нет тела, нет биологических процессов и нет подтверждённого внутреннего опыта.

Что такое сомафобия в этом контексте?

Это термин, введённый учёной Элизабет Спельман в 1982 году для описания ошибочного убеждения, что люди по сути являются разумом, а не физическими телами — предубеждение, которое делает нас более склонными видеть думающие машины как живые.

Должен ли я перестать использовать чатботы ИИ?

Не обязательно. Практический совет — использовать их как инструменты, а не как советников с подлинным пониманием, и проверять всё важное у квалифицированного человека.