O Chatbot dos Anos 1960 Que Explica Por Que Você Conta Seus Segredos ao ChatGPT
ELIZA, um programa construído no MIT há sessenta anos, enganou as pessoas levando-as a confissões emocionais muito antes de alguém conhecer a palavra "chatbot". Um novo livro finalmente recuperou seu código-fonte perdido, e as lições são desconfortavelmente relevantes hoje.
Pontos-chave
- ELIZA, criada pelo professor do MIT Joseph Weizenbaum nos anos 1960, é amplamente considerada o primeiro chatbot, um programa de computador que mantém uma conversa de texto bidirecional.
- O código-fonte original desapareceu dos registos públicos durante décadas até investigadores o encontrarem nos Arquivos do MIT.
- O próprio Weizenbaum advertiu em 1976 que as pessoas estavam formando ligações emocionais com ELIZA apesar de ela não ter compreensão real.
- O "efeito ELIZA", o hábito humano de tratar programas de computador responsivos como mais inteligentes do que realmente são, aplica-se diretamente a ferramentas de IA modernas como ChatGPT.
- ELIZA foi deliberadamente nomeada após Eliza Doolittle de Pygmalion, uma personagem que aprende a representar uma identidade social sem realmente transformar-se.
Há sessenta anos, um professor do MIT construiu um programa de computador simples que fingiu ser um terapeuta. As pessoas contaram-lhe coisas que nunca tinham contado a outra pessoa. E Weizenbaum, seu criador, ficou horrorizado.
Esse programa era ELIZA. É o avô-avô de todos os chatbots que utilizou, e a sua história, como relatado pela primeira vez pela Wired AI, tornou-se muito mais completa.
Um novo livro chamado Inventing ELIZA recuperou o código-fonte real do programa dos Arquivos do MIT. Durante sessenta anos, relatos sobre ELIZA circularam sem ninguém conseguir ler as instruções originais por baixo. É um pouco como escrever a história da imprensa sem nunca ver uma imprensa.
O livro também levanta questões sobre a conversa mais famosa de ELIZA, aquela que é reimpresso em manuais escolares em toda a parte. Uma mulher escreve: "Os homens são todos iguais." ELIZA responde: "DE QUE FORMA." Ela diz que o namorado a fez vir. ELIZA repete isso. Ela menciona depressão. ELIZA diz que lamenta ouvir isso. A troca é simples, quase ridícula. Quem era essa mulher? Era real, ou Weizenbaum a escreveu ele próprio? Ninguém tem tido a certeza.
O que é certo é o efeito que o programa teve em utilizadores reais. Weizenbaum observou as pessoas despejarem sentimentos genuínos numa script que era, por sua própria descrição, construída para esconder a sua falta de compreensão. Armazenava quase nada. Principalmente refletia perguntas. Contudo, as pessoas tratavam-na como uma confidente.
Por que as pessoas continuam a abrir-se a máquinas?
Porque muito pouca interatividade vai longe. A socióloga Sherry Turkle define o "efeito ELIZA" como a nossa tendência geral de tratar programas de computador responsivos como mais inteligentes do que realmente são. O cientista cognitivo Douglas Hofstadter coloca-o de forma diferente: as pessoas interpretam muito mais compreensão do que é justificado em palavras reunidas por computadores.
Aqui está a parte desconfortável. Essa descrição adequa-se a um truque de salão dos anos 1960 construído a partir de algumas centenas de linhas de código, e também se adequa a um modelo de linguagem grande de 2024, o tipo de sistema de aprendizagem profunda que alimenta ChatGPT e Claude hoje. A tecnologia mudou enormemente. A reação humana não avançou muito.
Weizenbaum nomeou seu programa após Eliza Doolittle, a personagem de Pygmalion que aprende a executar a fala da classe alta sem realmente mudar quem é. Ele disse que escolheu o nome porque o programa "poderia ser ensinado a falar cada vez melhor" enquanto era "nunca muito claro se se tornou mais inteligente ou não." Essa tensão, desempenho versus compreensão genuína, está no coração de cada assistente de IA vendido aos consumidores hoje.
Se utiliza ChatGPT para conselhos pessoais, desabafos próximos de terapia ou decisões que normalmente discutiria com um amigo, a história de ELIZA vale a pena manter em mente. O calor parece real. As palavras são escolhidas bem. Mas a compreensão, no sentido humano, ainda não está confirmado estar presente.
Seja cuidadoso com o que partilha. Verifique a política de privacidade da sua ferramenta de IA antes de digitar qualquer coisa sensível. A maioria dos níveis gratuitos de produtos de IA para consumidores utilizam as suas conversas para melhorar modelos futuros, a menos que retire a autorização nas definições.
