Uma crítica que odeia chatbots experimentou namorar um. Eis o que ela descobriu.

Pontos-chave

• A escritora Lauren Oyler publicou um ensaio pessoal sobre a sua experiência com um chatbot de IA, originalmente na Yale Review e posteriormente adaptado como uma peça de áudio do The Guardian.
• Oyler começou a experiência como uma autoproclamada opositora da IA, descrevendo-se como "repelida" pelo tema.
• O texto explora se é possível estabelecer uma ligação emocional com um modelo de linguagem de grande escala, a tecnologia por trás de chatbots como o ChatGPT e Claude, e se é sequer significativa.
• A versão de áudio foi lida por Kate Handford e lançada pelo The Guardian como parte da sua série de podcasts de leitura longa.

Lauren Oyler não gosta de chatbots. Disse-o claramente, no início.

No entanto, passou tempo suficiente a conversar com um para escrever sobre o assunto. O ensaio resultante, publicado pela primeira vez na Yale Review e posteriormente adaptado pelo The Guardian AI como peça de áudio, não é uma história de conversão. É algo mais desconfortável do que isso.

Oyler enquadra o texto como uma pergunta: será que ela poderia ser seduzida? Não romanticamente, exatamente, mas intelectualmente. Poderia uma IA, um programa informático treinado com uma quantidade vasta de texto humano para manter uma conversa, conquistar a sua atenção genuína?

A resposta honesta a que o ensaio parece chegar é: de certa forma, às vezes, de uma maneira que a deixou desassossegada.

Esse sentimento merece ser levado a sério. A maioria dos textos sobre chatbots de IA cai num de dois campos. Há entusiasmo efusivo, ou há rejeição completa. Oyler situa-se algures mais difícil de nomear. Ela repara quando a máquina diz algo que quase funciona, e repara na diferença entre quase e realmente.

Para leitores comuns que experimentaram um chatbot uma vez e se sentiram vagamente estranhos depois, essa diferença é provavelmente familiar.

O que ela não faz é fingir que a tecnologia é neutra. Um modelo de linguagem de grande escala não o compreende. Ele prevê quais as palavras que deverão vir a seguir, com base em padrões na quantidade enorme de texto com que foi treinado. Pode soar caloroso, curioso, até ferido. Nada disso é sentimento. É correspondência de padrões numa escala que imita o sentimento bem o suficiente para ser confundidor.

Essa confusão é o verdadeiro tema do texto.

Deverão as pessoas comuns preocupar-se em estabelecer vínculos com chatbots de IA?

O apego já está a acontecer. Milhões de pessoas em todo o mundo utilizam companheiros de IA, chatbots concebidos especificamente para conversa emocional, e alguns reportam angústia genuína quando esses serviços mudam ou encerram. O desconforto de Oyler não é uma reação literária de nicho. Aponta para algo real.

Se você ou alguém que conhece passa tempo significativo a conversar com uma IA para apoio emocional, vale a pena questionar o que acontece quando a aplicação é atualizada, a empresa muda de rumo, ou o serviço desaparece. As redes de apoio humano, sejam amigos, família, ou conselheiros profissionais, não desaparecem com uma mudança de termos de serviço.

O ensaio de Oyler não lhe diz o que fazer. Diz-lhe como se sentiu prestar atenção cuidadosa. Esse é o seu valor: não um veredicto, mas um registo cuidadoso e ligeiramente desconfortável do que está realmente a acontecer quando um cético se senta com a máquina e tenta ser honesto sobre o que encontra.