Чатбот 1960-х років, який пояснює, чому ви розповідаєте ChatGPT свої секрети

Ключові моменти

• ELIZA, створена професором MIT Джозефом Вайценбаумом у 1960-х роках, широко вважається першим чатботом — комп'ютерною програмою, яка веде двосторонню текстову розмову.
• Оригінальний вихідний код був відсутній у публічних записах протягом десятків років, поки дослідники не знайшли його в архівах MIT.
• Сам Вайценбаум у 1976 році попередив, що люди формували емоційну прив'язаність до ELIZA, незважаючи на те, що вона не мала справжнього розуміння.
• «Ефект ELIZA», людська звичка розглядати відзивчиві комп'ютерні програми як розумніші, ніж вони насправді, безпосередньо застосовується до сучасних інструментів AI, таких як ChatGPT.
• ELIZA була навмисне названа на честь Елізи Дулітл з Пігмаліона, персонажа, яка навчилася виконувати соціальну роль без справжньої трансформації.

Шістдесят років тому професор MIT створив просту комп'ютерну програму, яка видавала себе за психотерапевта. Люди розповідали їй речі, які ніколи не розповідали нікому іншому. А Вайценбаум, її творець, був в жаху.

Ця програма була ELIZA. Вона є прапрабабусею кожного чатбота, який ви коли-небудь використовували, і її історія, як вперше повідомила Wired AI, тепер стала набагато повнішою.

Нова книга під назвою Inventing ELIZA відновила фактичний вихідний код програми з архівів MIT. Протягом шістдесяти років розповіді про ELIZA циркулювали без можливості прочитати оригінальні інструкції під ними. Це дещо схоже на написання історії друкарського верстата без його безпосереднього розгляду.

Книга також ставить запитання щодо найвідомішої розмови ELIZA, тієї, що перевидрукована у підручниках усюди. Жінка пише: «Чоловіки всі однакові». ELIZA відповідає: «ЯК СА ME». Вона каже, що її хлопець змусив її прийти. ELIZA повторює це назад. Вона згадує депресію. ELIZA каже, що їй шкода це чути. Обмін простий, майже смішно простий. Хто була ця жінка? Чи була вона справжньою, чи Вайценбаум написав її сам? Ніхто не був впевнений.

Те, що є певним, — це вплив, який програма мала на реальних користувачів. Вайценбаум спостерігав, як люди вливають справжні почуття в сценарій, який, за його власним описом, був створений для приховування його нестачі розуміння. Він практично нічого не запам'ятовував. Він переважно повертав запитання назад. Проте люди ставилися до нього як до довіреної особи.

Чому люди продовжують розкриватися машинам?

Тому що дуже мала інтерактивність має великий вплив. Соціолог Шеррі Туркл визначає «ефект ELIZA» як нашу загальну тенденцію розглядати відзивчиві комп'ютерні програми як розумніші, ніж вони насправді є. Науковець когнітивної науки Дуглас Хофштадтер виражає це інакше: люди читають набагато більше розуміння в слова, які складені комп'ютерами, ніж це виправдано.

Ось незручна частина. Цей опис підходить для трюку 1960-х років, побудованого з кількох сотень рядків коду, і він також підходить для великої мовної моделі 2024 року, типу глибокого навчання, яке забезпечує ChatGPT і Claude сьогодні. Технологія змінилася величезно. Людська реакція майже не змінилася.

Вайценбаум назвав свою програму на честь Елізи Дулітл, персонажа Пігмаліона, яка навчилася виконувати мовлення вищого класу без справжньої зміни своєї сутності. Він сказав, що вибрав це ім'я, тому що програму «можна було навчити говорити дедалі краще», тоді як було «ніколи цілком ясно, чи насправді вона стала розумнішою». Ця напруженість, виконання проти справжнього розуміння, лежить в основі кожного помічника AI, який продається споживачам сьогодні.

Якщо ви використовуєте ChatGPT для особистих порад, терапевтичних бесід або рішень, які ви зазвичай обговорюєте з другом, історія ELIZA варта уваги. Тепло відчувається справжнім. Слова вибрані добре. Але розуміння в людському сенсі все ще не підтверджено.

Будьте обережні з тим, що ви ділитеся. Перевірте політику конфіденційності вашого інструменту AI перед введенням будь-чого чутливого. Більшість безплатних рівнів споживчих продуктів AI використовують ваші розмови для покращення майбутніх моделей, якщо ви не відмовитеся в налаштуваннях.