Чат-бот 1960-х годов, объясняющий, почему вы рассказываете ChatGPT свои секреты

Ключевые моменты

• ELIZA, созданная профессором MIT Джозефом Вайценбаумом в 1960-х годах, широко считается первым чат-ботом — компьютерной программой, которая проводит двусторонний текстовый диалог.
• Исходный код был недоступен в открытых источниках в течение десятилетий, пока исследователи не обнаружили его в архивах MIT.
• Сам Вайценбаум предупреждал в 1976 году, что люди формируют эмоциональную привязанность к ELIZA, несмотря на то, что она не обладает реальным пониманием.
• «Эффект ELIZA» — человеческая привычка относиться к отзывчивым компьютерным программам как к более интеллектуальным, чем они есть на самом деле, — применим и к современным инструментам ИИ, таким как ChatGPT.
• ELIZA было намеренно названо в честь Элизы Дулиттл из «Пигмалиона» — персонажа, который научился исполнять социальную роль, но не изменился по сути.

Шестьдесят лет назад профессор из MIT создал простую компьютерную программу, которая притворялась терапевтом. Люди рассказывали ей то, что никогда не говорили никому. И Вайценбаум, её создатель, был в ужасе.

Эта программа была ELIZA. Она является предком всех используемых вами чат-ботов, и её история, впервые освещённая Wired AI, стала намного полнее.

Новая книга под названием Inventing ELIZA восстановила из архивов MIT настоящий исходный код программы. В течение шестидесяти лет существовали описания ELIZA, но никто не мог прочитать оригинальные инструкции. Это немного похоже на написание истории печатного станка без ознакомления с самим печатным станком.

В книге также поднимаются вопросы о наиболее известном диалоге ELIZA — том, который переиздаётся в учебниках повсеместно. Женщина пишет: «Все мужчины одинаковые». ELIZA отвечает: «В каком смысле». Она говорит, что её парень заставил её... ELIZA повторяет это. Она упоминает депрессию. ELIZA говорит, что ей жаль это слышать. Обмен простой, почти смешной. Кто была эта женщина? Была ли она реальным человеком или Вайценбаум придумал её сам? Никто не был уверен.

То, что точно известно, — это эффект, который программа оказывала на реальных пользователей. Вайценбаум наблюдал, как люди вкладывали искренние чувства в скрипт, который, по его собственному определению, был построен, чтобы скрыть отсутствие понимания. Он практически ничего не сохранял. Он в основном отражал вопросы обратно. Тем не менее люди относились к нему как к доверенному лицу.

Почему люди продолжают открываться машинам?

Потому что даже небольшой интерактивности достаточно. Социолог Шерри Туркл определяет «эффект ELIZA» как нашу общую тенденцию относиться к отзывчивым компьютерным программам как к более умным, чем они на самом деле. Учёный-когнитивист Дуглас Хофштадтер объясняет это иначе: люди видят в строках, составленных компьютерами, гораздо больше понимания, чем на самом деле есть.

Вот неудобная часть. Это описание подходит как для трюка из 1960-х годов, построенного из нескольких сотен строк кода, так и для большой языковой модели 2024 года — типа системы глубокого обучения, которая сейчас питает ChatGPT и Claude. Технология изменилась огромно. Человеческая реакция практически не изменилась.

Вайценбаум назвал свою программу в честь Элизы Дулиттл, персонажа из «Пигмалиона», которая научилась говорить на манер высшего общества, но не изменилась по сути. Он сказал, что выбрал это имя, потому что программа «могла быть обучена говорить всё лучше», в то время как было «никогда не совсем ясно, стала ли она на самом деле умнее». Это напряжение между исполнением и подлинным пониманием лежит в основе каждого AI-помощника, продаваемого потребителям.

Если вы используете ChatGPT для личных советов, обсуждения проблем, похожего на терапию, или решений, которые вы обычно обсуждали бы с другом, история ELIZA стоит того, чтобы её помнить. Теплота ощущается реальной. Слова подобраны хорошо. Но подлинное понимание в человеческом смысле по-прежнему не подтверждено.

Будьте внимательны к тому, что вы делитесь. Проверьте политику конфиденциальности вашего AI-инструмента перед вводом любой чувствительной информации. Большинство бесплатных версий потребительских AI-продуктов используют ваши диалоги для улучшения будущих моделей, если вы не отключили эту опцию в настройках.