Una critica che odia i chatbot ha provato a uscire con uno. Ecco cosa ha scoperto.

Punti chiave

• La scrittrice Lauren Oyler ha pubblicato un saggio personale sulla sua esperienza con un chatbot IA, originariamente sulla Yale Review e successivamente adattato come pezzo audio per The Guardian.
• Oyler ha iniziato l'esperimento come dichiarata oppositrice dell'IA, descrivendosi come "respinta" dall'argomento.
• Il pezzo esplora se sia possibile o significativa una connessione emotiva con un large language model, la tecnologia dietro chatbot come ChatGPT e Claude.
• La versione audio è stata letta da Kate Handford e rilasciata da The Guardian come parte della sua serie di podcast di lunghi articoli.

Lauren Oyler non ama i chatbot. Lo ha detto chiaramente, all'inizio.

Eppure ha passato abbastanza tempo a parlare con uno da scriverne ampiamente. Il saggio risultante, pubblicato per la prima volta sulla Yale Review e successivamente adattato da The Guardian AI in un pezzo audio, non è una storia di conversione. È qualcosa di più scomodo di così.

Oyler inquadra il pezzo come una domanda: potrebbe essere sedotta? Non romanticamente, esattamente, ma intellettualmente. Potrebbe un'IA, un programma informatico addestrato su enormi quantità di testo umano per condurre una conversazione, guadagnarsi la sua genuina attenzione?

La risposta onesta a cui il saggio sembra arrivare è: più o meno, a volte, in un modo che l'ha lasciata turbata.

Questo sentimento merita di essere preso sul serio. La maggior parte della scrittura sui chatbot IA rientra in uno dei due campi. C'è entusiasmo senza fiato, oppure c'è piatto disprezzo. Oyler si siede da qualche parte più difficile da nominare. Nota quando la macchina dice qualcosa che quasi funziona, e nota il divario tra quasi e effettivamente.

Per i lettori ordinari che hanno provato un chatbot una volta e si sono sentiti vagamente strani dopo, quel divario è probabilmente familiare.

Quello che non fa è fingere che la tecnologia sia neutrale. Un large language model non ti comprende. Prevede quali parole dovrebbero venire dopo, in base ai modelli nell'enorme quantità di testo su cui è stato addestrato. Può sembrare caloroso, curioso, persino ferito. Nulla di tutto ciò è sentimento. È il riconoscimento di modelli su scala tale da imitare bene il sentimento abbastanza da essere confuso.

Quella confusione è il vero soggetto del pezzo.

Le persone ordinarie dovrebbero preoccuparsi di sviluppare un attaccamento ai chatbot IA?

L'attaccamento sta già accadendo. Milioni di persone in tutto il mondo utilizzano accompagnatori IA, chatbot progettati specificamente per la conversazione emotiva, e alcuni riferiscono di genuino disagio quando quei servizi cambiano o si chiudono. Il disagio di Oyler non è una reazione letteraria di nicchia. Punta a qualcosa di reale.

Se tu o qualcuno che conosci trascorre molto tempo a parlare con un'IA per supporto emotivo, vale la pena chiedere cosa succede quando l'app si aggiorna, l'azienda cambia direzione o il servizio scompare. Le reti di supporto umano, che si tratti di amici, famiglia o consulenti professionisti, non svaniscono con un cambio dei termini di servizio.

Il saggio di Oyler non ti dice cosa fare. Ti dice come si è sentito prestare attenzione attentamente. Questo è il suo valore: non un verdetto, ma un resoconto attento e leggermente sgradevole di quello che sta effettivamente accadendo quando uno scettico si siede con la macchina e prova ad essere onesto su quello che trova.