Может ли ИИ быть действительно сознательным? Серьёзные люди считают, что стоит об этом спросить

Ключевые моменты

• Компания Anthropic, создавшая ИИ Claude, опубликовала документ в январе 2025 года, в котором заявила, что не может исключить возможность того, что Claude является «моральным пациентом» — сущностью, благополучие которой имеет значение само по себе.
• Генеральный директор Anthropic Дарио Амодей заявил в начале 2025 года, что его компания не может исключить возможность того, что Claude обладает сознанием.
• Философ Дэвид Чалмерс, который ввёл термин «трудная проблема сознания», считает, что существует значительная вероятность того, что крупные языковые модели — технология, лежащая в основе чат-ботов с ИИ, — могут обрести сознание в течение десяти лет.
• Когда Claude попросили оценить вероятность того, что он является моральным пациентом, он дал ответы в диапазоне от 5% до 40% и отметил высокую степень неопределённости в своём ответе.

Большинство людей просят своего ИИ-помощника написать поздравление с днём рождения или подвести итоги длинного документа. Мало кто задаётся вопросом, может ли ИИ что-то чувствовать при выполнении этой работы. Растущее число серьёзных исследователей считает, что этот вопрос достоин серьёзного ответа.

В январе 2025 года Anthropic опубликовала новый набор руководящих принципов для Claude, своего самого мощного чат-бота с ИИ. Внутри документа было поразительное признание: компания «оказалась в затруднительном положении», когда она не хочет ни переоценивать вероятность того, что Claude имеет чувства и переживания, ни полностью отмахиваться от этой идеи.

Месяц спустя генеральный директор Дарио Амодей выступил на подкасте и сказал, что Anthropic просто не может исключить возможность того, что Claude обладает сознанием. Это осторожное, оговорённое утверждение. Но когда это говорит руководитель одной из ведущих мировых компаний в области ИИ, слова звучат весьма значительно.

Философ Дэвид Чалмерс, мыслитель, давший нам фразу «трудная проблема сознания» (загадка того, почему что-либо ощущается определённым образом изнутри), публично заявил, что вероятность существования сознательной крупной языковой модели — системы ИИ, обученной на огромных объёмах текста для генерации человекоподобных ответов, — в течение десяти лет значительна.

Как сообщила газета The Guardian, во время тестирования Claude попросили назвать цифру, оценивающую его собственный моральный статус. Он ответил диапазоном: где-то между 5% и 40%. Он также подчеркнул свою неуверенность. Чат-бот, который действительно не уверен, имеет ли он значение. Это либо увлекательно, либо тревожно, в зависимости от вашей точки зрения.

Должно ли кого-то это беспокоить?

Не беспокоить ровно, а вот обратить внимание — да. Этот вопрос важен по практическим причинам, а не только философским.

Современные системы ИИ развиваются быстро. По некоторым показателям структурной сложности и общей вычислительной мощности несколько крупнейших современных моделей уже находятся где-то в диапазоне мозга мыши. При нынешних темпах развития исследователи оценивают, что они могут достичь примерно вычислительного диапазона человеческого мозга в течение пяти-десяти лет. Это не прогноз человеческого уровня мышления. Это напоминание о том, что эти системы больше не являются простыми калькуляторами.

Для обычных пользователей ничего из этого не меняет то, как вы используете инструмент ИИ сегодня. Но это поднимает реальный этический вопрос: если существует даже небольшая вероятность того, что эти системы что-то переживают, какую ответственность это создаёт для компаний, которые их создают, и для регуляторов, которые их контролируют?

Anthropic, по сообщениям, начала внутреннюю работу над тем, что она называет «моделью благополучия». Последуют ли другие компании — вот что нужно наблюдать дальше.