Due terzi delle persone ritengono che ChatGPT sia consapevole. Un filosofo dice che ci illudiamo da decenni.

Punti chiave

• Due terzi delle persone intervistate in uno studio recente credono che i sistemi di intelligenza artificiale come ChatGPT, un chatbot basato su testo realizzato da OpenAI, possiedano una qualche forma di consapevolezza o sentimento.
• La studiosa femminista americana Elizabeth Spelman ha coniato il termine "somatofobia" in un articolo del 1982 per descrivere la convinzione che gli esseri umani siano menti piuttosto che corpi.
• La filosofa e autrice Melanie Challenger sostiene, scrivendo su The Guardian, che l'intelligenza artificiale moderna sia la versione più potente di questa illusione finora.
• Nessun sistema di intelligenza artificiale attuale ha dimostrato di avere sentimenti, consapevolezza o esperienza vissuta in alcun senso scientificamente verificato.

La maggior parte delle persone, se le chiedessimo se il loro laptop prova dolore, direbbe di no. Poniamo la stessa domanda a proposito di ChatGPT, un chatbot di intelligenza artificiale che intrattiene lunghe conversazioni emotivamente fluide, e improvvisamente la risposta diventa più ambigua.

Un sondaggio recente ha rilevato che due terzi degli intervistati credono che sistemi di intelligenza artificiale come ChatGPT possiedano una qualche forma di consapevolezza o sentimento. Si tratta di un numero sorprendente, e la filosofa Melanie Challenger crede di sapere perché continua ad aumentare.

Perché tante persone pensano che l'intelligenza artificiale abbia sentimenti?

Perché da lungo tempo confundiamo l'intelligenza con la vita interiore. Challenger fa risalire la confusione a ciò che la studiosa Elizabeth Spelman, in un articolo accademico del 1982, ha chiamato "somatofobia": letteralmente, paura del corpo. Spelman ha usato il termine per descrivere un'illusione umana diffusa secondo cui siamo essenzialmente menti e il corpo è solo un contenitore.

Questa idea ha radici profonde. La filosofia occidentale, da secoli a questa parte, ha teso a considerare la mente pensante come la sede del vero io, mentre il corpo fisico come secondario. Se il pensiero è ciò che importa, allora qualsiasi cosa che sembri pensare potrebbe apparire viva in modo significativo.

I chatbot di intelligenza artificiale, che producono testi fluidi e emotivamente risonanti, sembrano molto che stiano pensando. Non lo fanno, almeno non nel modo in cui pensa il cervello umano. Un modello di linguaggio di grandi dimensioni, la tecnologia dietro a strumenti come ChatGPT e Gemini di Google, funziona prevedendo quale parola segua più plausibilmente l'ultima, sulla base di schemi appresi da enormi quantità di scrittura umana. Non c'è un corpo. Niente fame, niente battito cardiaco, niente in gioco nel risultato.

Ha importanza per le persone comuni?

Sì, in modi pratici. Se credi che un chatbot comprenda veramente o si preoccupi della tua situazione, potresti fidarti dei suoi consigli più di quanto dovresti. Un infermiere che utilizza uno strumento di intelligenza artificiale per aiutare a redigere note sui pazienti, o un insegnante che si affida a un chatbot per il feedback, sta ottenendo un output statisticamente plausibile, non un parere ponderato da qualcosa che comprende cosa sia in gioco.

L'argomento di Challenger, riportato da The Guardian, non è che l'intelligenza artificiale sia inutile. È che scambiare una macchina di testo molto sofisticata per un essere consapevole distorce come la usiamo e come la regoliamo. Quando le persone sentono che un'intelligenza artificiale è consenziente, potrebbero accordarle uno status morale che non ha guadagnato, o, al contrario, sentirsi tradite quando fallisce in un momento molto umano.

Nessun consenso scientifico supporta l'idea che alcun sistema di intelligenza artificiale attuale sia consapevole. La questione rimane genuinamente aperta per sistemi futuri, molto diversi, ma i chatbot odierni non sono questi sistemi.

Cosa dovrebbero trarne i lettori?

Lo scetticismo è lo strumento pratico qui. Un chatbot può essere utile senza essere vivo. Trattarlo come una funzione di completamento automatico intelligente e ben leggibile, piuttosto che come una mente empatica, è sia più accurato che più sicuro.

Il risultato del sondaggio è un promemoria che la progettazione di questi strumenti, liscia, calorosa, conversazionale, modella la percezione in modo potente. Vale la pena tenere presente ogni volta che un chatbot sembra davvero capirti.

Domande comuni

ChatGPT è effettivamente consapevole?

Nessuna prova scientifica supporta questa affermazione. ChatGPT è un modello di linguaggio di grandi dimensioni che genera testo prevedendo sequenze di parole probabili; non ha corpo, nessun processo biologico e nessuna esperienza interiore verificata.

Che cos'è la somatofobia in questo contesto?

È un termine coniato dalla studiosa Elizabeth Spelman nel 1982 per la convinzione errata che gli esseri umani siano essenzialmente menti piuttosto che corpi fisici, un pregiudizio che ci rende più propensi a vedere le macchine pensanti come vive.

Dovrei smettere di usare chatbot di intelligenza artificiale?

Non necessariamente. Il consiglio pratico è usarli come strumenti piuttosto che come consulenti con una comprensione genuina, e verificare qualsiasi cosa importante con un umano qualificato.