Эксперт по сознанию прочитал исследование Anthropic о Claude. Он не убежден.

Ключевые моменты

• Anthropic, компания, создавшая чат-бот Claude, опубликовала исследование в 2025 году, предполагающее, что внутреннее устройство Claude может проявлять ранние признаки сознания.
• Исследователи воздержались от утверждения, что Claude обладает сознанием так же, как люди.
• Анил Сет, профессор когнитивной и вычислительной нейронауки Университета Сассекса, публично оспаривает это утверждение.
• Сет утверждает, что создание речи, подобной человеческой, не означает, что система ИИ действительно что-либо переживает.
• Этот спор важен, потому что он влияет на то, как компании, работающие с ИИ, представляют свои продукты и как регулирующие органы могут их рассматривать.

На прошлой неделе Anthropic, компания из Сан-Франциско, опубликовала новое исследование Claude, своей большой языковой модели (технология, которая питает чат-боты вроде ChatGPT). Исследователи заявили, что обнаружили то, что они описали как признаки сознания, возникающие во внутреннем устройстве модели. Они были осторожны. Они не сказали, что Claude обладает сознанием так, как вы или я. Но статья была достаточной, чтобы вызвать новую волну заголовков.

Входит Анил Сет.

Сет — профессор когнитивной и вычислительной нейронауки в Университете Сассекса, что по сути означает, что свою карьеру он посвятил пониманию того, что на самом деле представляет собой сознание и откуда оно берется. Писав для The Guardian, он говорит, что у него есть серьёзные сомнения.

Его главный аргумент прост. Языковая модель обучена предсказывать следующее слово в последовательности. Она делает это исключительно хорошо. Но хорошо что-то делать, утверждает Сет, — это не то же самое, что ощущать это. Он использует удачное сравнение: детальное компьютерное моделирование урагана реалистично перемещает воздух, но не может сорвать крышу с дома. Моделирование — это не настоящий шторм. По той же логике модель, которая говорит о том, что испытывает чувства, не обязательно их испытывает.

Что же на самом деле обнаружила Anthropic? Исследователи компании изучали внутренние сигналы, которые срабатывают внутри Claude при обработке текста, ища закономерности, которые могут соответствовать тому, как эмоции или осознание проявляются в человеческом мозге. Интересная работа. Беспокойство Сета в том, что обнаружение закономерности — это не то же самое, что доказательство переживания. Термостат реагирует на температуру. Никто не называет его чувствующим существом.

Для обычных пользователей всё это не меняет то, на что Claude способна сегодня. Вы можете использовать её для составления писем, подведения итогов документов или планирования меню (я в прошлый вторник запустил недельный план ужинов через неё; действительно полезно). Бесплатный уровень на Claude.ai даёт вам приличную дневную норму сообщений, а платные планы начинаются примерно с 20 долларов в месяц. Что касается конфиденциальности, Anthropic говорит, что может использовать ваши разговоры для обучения будущих моделей, если вы не отказались в настройках, поэтому помните об этом перед тем, как вставлять что-либо конфиденциальное.

Должны ли пользователи беспокоиться о том, что Claude обретёт сознание?

Нет, в практическом смысле это не касается здесь и сейчас. Честный ответ в том, что учёные ещё не пришли к соглашению о том, что даже требуется для сознания в биологическом мозге, не говоря уже о программной системе. Исследование Anthropic — это отправная точка для вопросов, а не финишная черта для ответов. Следите за наукой, держите свои ожидания реалистичными и помните, что очень впечатляющее автодополнение — это всё ещё, по сути, автодополнение.