Il Chatbot degli Anni Sessanta che Spiega Perché Racconti i Tuoi Segreti a ChatGPT

Punti chiave

• ELIZA, creato dal professore del MIT Joseph Weizenbaum negli anni Sessanta, è ampiamente considerato il primo chatbot, un programma informatico che conduce una conversazione testuale bidirezionale.
• Il codice sorgente originale è mancato dai registri pubblici per decenni fino a quando i ricercatori non lo hanno trovato negli Archivi del MIT.
• Lo stesso Weizenbaum ha avvertito nel 1976 che le persone stavano formando legami emotivi con ELIZA nonostante non avesse alcuna vera comprensione.
• L'"effetto ELIZA", l'abitudine umana di trattare i programmi informatici reattivi come più intelligenti di quanto lo siano davvero, si applica direttamente agli strumenti di IA moderni come ChatGPT.
• ELIZA è stato deliberatamente denominato da Eliza Doolittle di Pigmalione, un personaggio che impara a recitare un'identità sociale senza diventarlo veramente.

Sessant'anni fa, un professore del MIT costruì un semplice programma informatico che fingeva di essere un terapeuta. Le persone gli raccontavano cose che non avevano mai detto a nessun altro. E Weizenbaum, il suo creatore, rimase inorridito.

Quel programma era ELIZA. È il bisnonno di ogni chatbot che hai utilizzato, e la sua storia, come riportato per la prima volta da Wired AI, è appena diventata molto più completa.

Un nuovo libro intitolato Inventing ELIZA ha recuperato il vero codice sorgente del programma dagli Archivi del MIT. Per sessant'anni, i resoconti di ELIZA circolavano senza che nessuno potesse leggere le istruzioni originali sottostanti. È un po' come scrivere la storia della stampa senza mai vedere una stampante.

Il libro solleva anche domande sulla conversazione più famosa di ELIZA, quella ristampata nei libri di testo ovunque. Una donna digita: "Gli uomini sono tutti uguali". ELIZA risponde: "IN CHE SENSO". Lei dice che il suo ragazzo l'ha fatta venire. ELIZA lo ripete. Menziona la depressione. ELIZA dice che le dispiace sentirlo. Lo scambio è semplice, quasi ridicolo. Chi era questa donna? Era reale, o l'ha scritta Weizenbaum stesso? Nessuno è stato sicuro.

Ciò che è certo è l'effetto che il programma ha avuto su utenti reali. Weizenbaum ha osservato persone versare sentimenti genuini in uno script che era, secondo la sua stessa descrizione, costruito per mascherare la sua mancanza di comprensione. Ha conservato quasi nulla. Perlopiù ha riflesso domande. Eppure le persone lo trattavano come un confidente.

Perché le persone continuano ad aprirsi alle macchine?

Perché anche poca interattività va molto lontano. La sociologa Sherry Turkle definisce l'"effetto ELIZA" come la nostra tendenza generale a trattare i programmi informatici reattivi come più intelligenti di quanto siano effettivamente. Lo scienziato cognitivo Douglas Hofstadter lo esprime diversamente: le persone leggono molto più comprensione di quanto sia garantito nelle parole messe insieme dai computer.

Ecco la parte scomoda. Quella descrizione si adatta a un trucco da salotto degli anni Sessanta costruito da poche centinaia di righe di codice, e si adatta anche a un modello linguistico di grandi dimensioni del 2024, il tipo di sistema di apprendimento profondo che alimenta ChatGPT e Claude oggi. La tecnologia è cambiata enormemente. La reazione umana non si è mossa molto.

Weizenbaum ha denominato il suo programma da Eliza Doolittle, il personaggio di Pigmalione che impara a eseguire il discorso della classe superiore senza cambiare veramente chi è. Ha detto che ha scelto il nome perché il programma "potrebbe essere insegnato a parlare sempre meglio" mentre era "mai del tutto chiaro se fosse diventato più intelligente o meno". Quella tensione, la performance rispetto alla comprensione genuina, è al cuore di ogni assistente IA venduto ai consumatori oggi.

Se utilizzi ChatGPT per consigli personali, sfoghi simili a terapia, o decisioni che normalmente discuteresti con un amico, la storia di ELIZA vale la pena tenere a mente. Il calore sembra reale. Le parole sono scelte bene. Ma la comprensione, nel senso umano, non è ancora confermata essere lì.

Sii consapevole di ciò che condividi. Controlla l'informativa sulla privacy del tuo strumento di IA prima di digitare qualcosa di sensibile. La maggior parte dei livelli gratuiti dei prodotti di IA dei consumatori utilizza le tue conversazioni per migliorare i modelli futuri, a meno che tu non rinunci nelle impostazioni.