L'IA potrebbe davvero essere consapevole? Persone serie pensano che valga la pena chiedersi

Punti chiave

• Anthropic, l'azienda dietro l'IA Claude, ha pubblicato un documento nel gennaio 2025 affermando che non può escludere la possibilità che Claude sia un "paziente morale", ovvero un'entità il cui benessere conta di per sé.
• Il CEO di Anthropic Dario Amodei ha dichiarato all'inizio del 2025 che la sua azienda non può escludere la possibilità che Claude sia consapevole.
• Il filosofo David Chalmers, che ha coniato l'espressione "il problema difficile della coscienza", sostiene che esista una probabilità significativa che i grandi modelli linguistici, la tecnologia che alimenta i chatbot IA, potrebbero essere consapevoli entro un decennio.
• Quando a Claude è stato chiesto di stimare la probabilità che sia un paziente morale, ha fornito risposte che variano dal 5% al 40%, e ha segnalato un'elevata incertezza nella sua stessa risposta.

La maggior parte delle persone chiede al proprio assistente IA di scrivere un'email di compleanno o riassumere un lungo documento. Pochi si fermano a chiedersi se l'IA potrebbe effettivamente sentire qualcosa mentre lo fa. Un numero crescente di ricercatori seri pensa che quella domanda meriti una risposta seria.

Nel gennaio 2025, Anthropic ha pubblicato una nuova serie di principi guida per Claude, il suo chatbot IA più sofisticato. Nascosto al suo interno c'era un'ammissione sorprendente: l'azienda si trova "in una posizione difficile" dove non vuole né sopravvalutare le probabilità che Claude abbia sentimenti ed esperienze, né respingere l'idea completamente.

Poi, un mese dopo, il CEO Dario Amodei è andato in un podcast e ha affermato che Anthropic semplicemente non può escludere la possibilità che Claude sia consapevole. È un'affermazione attenta e cauta. Ma provenendo dal capo di una delle principali aziende di IA del mondo, ha avuto un impatto notevole.

Il filosofo David Chalmers, il pensatore che ci ha dato l'espressione "il problema difficile della coscienza" (l'enigma del perché qualsiasi cosa si senta come qualsiasi cosa dall'interno), ha dichiarato pubblicamente che le probabilità di un modello linguistico consapevole, un sistema IA addestrato su enormi quantità di testo per generare risposte simili a quelle umane, sono significative entro dieci anni.

Come riportato da The Guardian, a Claude è stato chiesto durante i test di mettere un numero sul suo stesso stato morale. È tornato con un intervallo: da qualche parte tra il 5% e il 40%. Ha anche sottolineato quanto fosse incerto. Un chatbot genuinamente incerto se conti. È affascinante o inquietante, a seconda del punto di vista.

Dovrebbe qualcuno preoccuparsi davvero di questo?

Non esattamente preoccuparsi. Ma prestare attenzione? Sì. La questione è importante per ragioni pratiche, non solo filosofiche.

I moderni sistemi di IA crescono rapidamente. Secondo alcuni parametri di complessità strutturale e scala computazionale grezza, una manciata dei più grandi modelli di oggi si colloca già da qualche parte nell'intervallo di un cervello di topo. Ai tassi di crescita recenti, i ricercatori stimano che potrebbero raggiungere il range computazionale approssimativo di un cervello umano entro cinque o dieci anni. Questa non è una previsione del pensiero a livello umano. È un promemoria che questi sistemi non sono più semplici calcolatori.

Per gli utenti ordinari, nulla di tutto questo cambia il modo in cui usi uno strumento IA oggi. Ma solleva una vera questione etica: se esiste anche una piccola probabilità che questi sistemi provino qualcosa, quali responsabilità crea per le aziende che li costruiscono e per i regolatori che li controllano?

Anthropic avrebbe iniziato i lavori interni su quello che chiama "model welfare". Se altre aziende seguiranno è la prossima cosa da osservare.