Експерт зі свідомості прочитав дослідження Anthropic про Claude. Він не переконаний.
Anthropic опублікувала висновки, які натякають, що її модель штучного інтелекту Claude може проявляти ранні ознаки свідомості. Провідний науковець, що займається дослідженням мозку, каже, що це свідчення не витримує критики.
Ключові моменти
- Anthropic, компанія, що стоїть за чат-ботом Claude, опублікувала дослідження у 2025 році, яке припускає, що внутрішня робота Claude може показувати ранні ознаки свідомості.
- Дослідники утримались від твердження, що Claude володіє свідомістю так само, як люди.
- Аніл Сет, професор когнітивної та обчислювальної нейронауки в Університеті Сассекса, публічно оспорює це твердження.
- Сет стверджує, що видання мови, подібної до людської, не означає, що система штучного інтелекту насправді щось переживає.
- Ця дискусія важлива, оскільки вона впливає на те, як компанії штучного інтелекту представляють свої продукти та як їх можуть розглядати регулятори.
Минулого тижня Anthropic, компанія зі Сан-Франциско, опублікувала нові дослідження про Claude, свою велику мовну модель (технологію, яка живить чат-боти на зразок ChatGPT). Дослідники сказали, що знайшли те, що вони назвали ознаками свідомості, яке з'являється у внутрішній роботі моделі. Вони були обережними. Вони не сказали, що Claude володіє свідомістю так, як ви чи я. Але цієї статті було достатньо, щоб розпочати новий раунд заголовків у ЗМІ.
Зустрічайте Аніла Сета.
Сет — професор когнітивної та обчислювальної нейронауки в Університеті Сассекса, що по суті означає, що він присвячує кар'єру розумінню того, що таке свідомість насправді і звідки вона береться. Писаючи для The Guardian, він каже, що має серйозні сумніви.
Його центральна ідея проста. Мовна модель навчена передбачати наступне слово в послідовності. Вона робить це виключно добре. Але добре щось робити, стверджує Сет, — це не те ж саме, що це відчувати. Він використовує акуратне порівняння: детальна комп'ютерна симуляція урагану вправно рухає повітря, але вона не може зірвати дах вашого дому. Симуляція не є реальною бурею. За тією ж логікою, модель, яка говорить про те, що має почуття, не обов'язково їх має.
Отже, що саме знайшла Anthropic? Дослідники компанії розглянули внутрішні сигнали, які спрацьовують усередині Claude під час обробки тексту, шукаючи закономірності, які можуть відображати те, як емоції або усвідомлення з'являються в людських мозках. Цікава робота. Турбота Сета полягає в тому, що виявлення закономірності — це не те ж саме, що доведення переживання. Термостат реагує на температуру. Ніхто не називає його свідомим.
Для звичайних користувачів ніщо з цього не змінює те, що Claude може робити сьогодні. Ви все ще можете використовувати його для написання листів, резюмування документів або планування меню (я запустив план обіду на тиждень через нього в минулий вівторок; справді корисно). Безплатний рівень на Claude.ai дає вам гарну добову квоту повідомлень, а платні плани починаються приблизно з 20 доларів на місяць. З питання приватності Anthropic каже, що може використовувати ваші розмови для навчання майбутніх моделей, якщо ви не відмовитесь у налаштуваннях, тому це пам'ятайте перед тим, як вставляти щось конфіденційне.
Чи повинні користувачі хвилюватися про те, що Claude стане свідомим?
Ні, не в практичному сенсі на цей момент. Чесна відповідь полягає в тому, що вчені ще не дійшли згоди щодо того, що вимагає свідомість навіть у біологічному мозку, не кажучи вже про програмну систему. Дослідження Anthropic — це початкова точка для запитань, а не завершення для відповідей. Стежте за розвитком науки, тримайте свої очікування на землі та пам'ятайте, що дуже вражаюче автодоповнення все ще в своїй основі залишається автодоповненням.
