Критик, ненавидящий чат-боты, попробовала с ними общаться. Вот что она обнаружила.

Ключевые моменты

• Писательница Лорен Ойлер опубликовала личное эссе о своём опыте использования чат-бота с искусственным интеллектом, изначально в Yale Review, а позже адаптированное для аудиопроизведения The Guardian.
• Ойлер начала эксперимент как открытая противница ИИ, описав себя как "отвращённую" к этой теме.
• Статья исследует, возможна ли эмоциональная связь с языковой моделью большого размера — технологией, лежащей в основе чат-ботов типа ChatGPT и Claude, и имеет ли она смысл.
• Аудиоверсию читала Кейт Хэндфорд, и The Guardian опубликовала её как часть своей серии подкастов длинных текстов.

Лорен Ойлер не любит чат-боты. Она сказала об этом прямо, в самом начале.

Но она потратила достаточно времени на общение с одним из них, чтобы написать об этом подробное эссе. Получившийся текст, впервые опубликованный в Yale Review и позже адаптированный The Guardian в аудиопроизведение, — это не история обращения в веру. Это что-то более неудобное, чем это.

Ойлер формулирует свой текст как вопрос: могла ли она соблазниться? Не романтически, конечно, а интеллектуально. Может ли ИИ, компьютерная программа, обученная на огромных объёмах человеческого текста для ведения беседы, заработать её искреннее внимание?

Честный ответ, к которому приходит эссе, таков: отчасти, иногда, таким образом, который оставил её встревоженной.

Это чувство стоит принимать серьёзно. Большинство публикаций о чат-ботах с ИИ попадают в один из двух лагерей. Есть восторженный энтузиазм или плоское отрицание. Ойлер занимает позицию, которую сложнее назвать. Она замечает, когда машина говорит что-то, что почти достигает цели, и замечает расстояние между "почти" и "действительно".

Для обычных читателей, которые один раз попробовали чат-бот и потом чувствовали себя странно, это расстояние, вероятно, знакомо.

Она не делает вид, что технология нейтральна. Языковая модель большого размера не понимает вас. Она предсказывает, какое слово должно следовать дальше, основываясь на закономерностях в огромном объёме текста, на котором она была обучена. Она может звучать тепло, любопытно, даже раненой. Ничего из этого не является чувством. Это сопоставление шаблонов в масштабе, который достаточно хорошо имитирует чувство, чтобы сбивать с толку.

Вот эта путаница — настоящий предмет статьи.

Должны ли обычные люди беспокоиться о привязанности к чат-ботам с ИИ?

Привязанность уже происходит. Миллионы людей по всему миру используют ИИ-спутники, чат-боты, предназначенные специально для эмоциональных разговоров, и некоторые сообщают о подлинном расстройстве, когда эти сервисы меняются или закрываются. Дискомфорт Ойлер — это не узкая литературная реакция. Он указывает на что-то реальное.

Если вы или кто-то из ваших знакомых проводит значительное время в разговорах с ИИ в поисках эмоциональной поддержки, стоит задать вопрос о том, что произойдёт, когда приложение обновится, компания изменит курс или сервис исчезнет. Сети человеческой поддержки, будь то друзья, семья или профессиональные консультанты, не исчезают с изменением условий обслуживания.

Эссе Ойлер не говорит вам, что делать. Оно рассказывает, каково это — внимательно вслушиваться. В этом и заключается его ценность: не вердикт, а внимательная, немного тошнотворная запись о том, что на самом деле происходит, когда скептик садится перед машиной и пытается быть честной в отношении того, что она находит.