Due terzi delle persone pensano che ChatGPT sia consapevole. Un filosofo dice che ci ingganniamo da decenni.

Punti chiave

• Due terzi delle persone intervistate credono che gli strumenti di intelligenza artificiale come ChatGPT, un chatbot testuale creato da OpenAI, posseggano una forma di consapevolezza o sentimento.
• La studiosa femminista americana Elizabeth Spelman ha coniato il termine "somatofobia" in un articolo del 1982 per descrivere la convinzione che gli esseri umani siano menti piuttosto che corpi.
• La filosofa e autrice Melanie Challenger sostiene, scrivendo su The Guardian, che l'intelligenza artificiale moderna sia la versione più potente di questa illusione.
• Nessun sistema di intelligenza artificiale attuale ha dimostrato di avere sentimenti o consapevolezza in alcun senso scientificamente verificato.

La maggior parte delle persone, se le chiedessimo se il loro computer prova dolore, direbbe no. Ponete la stessa domanda a proposito di ChatGPT, e improvvisamente la risposta diventa più ambigua.

Un sondaggio recente ha rilevato che due terzi degli intervistati credono che strumenti come ChatGPT possiedano una forma di consapevolezza o sentimento. La filosofa Melanie Challenger pensa di sapere il perché.

Perché così tante persone pensano che l'intelligenza artificiale abbia sentimenti?

Perché da lungo tempo confundiamo l'intelligenza con la vita interiore. Challenger riconduce la confusione a quello che la studiosa Elizabeth Spelman, in un articolo accademico del 1982, ha chiamato "somatofobia": letteralmente, paura del corpo. Spelman ha usato il termine per descrivere un diffuso inganno umano secondo il quale siamo essenzialmente menti, e il corpo è solo un involucro.

La filosofia occidentale, risalendo a secoli fa, ha trattato la mente pensante come la sede del vero sé e il corpo fisico come secondario. Se il pensiero è quello che conta, allora qualsiasi cosa che sembra pensare potrebbe sembrare viva in modo significativo.

I chatbot di intelligenza artificiale producono testi fluenti e emotivamente risonanti che assomigliano al pensiero. Non lo è, non nel modo in cui pensa un cervello umano. Un modello linguistico di grandi dimensioni, la tecnologia dietro strumenti come ChatGPT e Gemini di Google, funziona prevedendo quale parola segue più plausibilmente quella precedente, attingendo da modelli di enormi quantità di scrittura umana. Non c'è corpo. Nessuna fame, nessun battito cardiaco.

Questo ha effettivamente importanza per le persone comuni?

Sì, in modi pratici. Se credete che un chatbot comprenda veramente la vostra situazione, potreste fidarvi dei suoi consigli più di quanto dovreste. Un infermiere che usa uno strumento di intelligenza artificiale per redigere note dei pazienti, o un insegnante che si affida a un chatbot per il feedback, sta ottenendo un output statisticamente plausibile, non un'opinione ponderata da qualcosa che comprende cosa è in gioco. Abbiamo esaminato questa dinamica nel nostro articolo del 24 luglio su il test semplice di un professore di Harvard per decidere quando l'intelligenza artificiale è effettivamente utile.

L'argomento di Challenger, riportato da The Guardian, non è che l'intelligenza artificiale sia inutile. È che scambiare una macchina di testo sofisticata per un essere consapevole distorce come la utilizziamo e come la regoliamo. Quando le persone sentono che un'intelligenza artificiale è senziente, potrebbero accordarle uno status morale che non ha guadagnato, o sentirsi tradite quando fallisce in un momento umano.

Nessun consenso scientifico supporta l'idea che un sistema di intelligenza artificiale attuale sia consapevole. La questione rimane aperta per i sistemi futuri costruiti su principi diversi, ma i chatbot di oggi non sono quei sistemi.

Cosa dovrebbero trarre i lettori da questo?

Lo scetticismo è lo strumento pratico in questo caso. Un chatbot può essere utile senza essere vivo. Trattarlo come una funzione di completamento automatico ben documentata, piuttosto che come una mente empatica, è sia più accurato che più sicuro.

Il risultato del sondaggio è un promemoria che la progettazione di questi strumenti, liscia, calorosa, conversazionale, modella potentemente la percezione. Vale la pena tenere a mente ogni volta che un chatbot sembra veramente capirvi.

Domande comuni

ChatGPT è effettivamente consapevole?

Nessuna evidenza scientifica supporta questa affermazione. ChatGPT è un modello linguistico di grandi dimensioni che genera testo prevedendo sequenze di parole probabili; non ha un corpo, nessun processo biologico, e nessuna esperienza interiore verificata.

Cos'è la somatofobia in questo contesto?

È un termine coniato dalla studiosa Elizabeth Spelman nel 1982 per la convinzione errata che gli esseri umani siano essenzialmente menti piuttosto che corpi fisici, un pregiudizio che ci rende più propensi a vedere le macchine pensanti come vive.

Dovrei smettere di usare i chatbot di intelligenza artificiale?

Non necessariamente. Il consiglio pratico è utilizzarli come strumenti piuttosto che come consulenti con comprensione genuina, e verificare tutto ciò che è importante con un professionista qualificato.