L'IA potrebbe scambiare rocce morte per vita aliena, avverte una nuova ricerca
Gli scienziati hanno testato un'IA su forme di vita simulate e l'hanno ingannata ogni volta. È un problema se intendiamo usare l'IA per cacciare microbi su Marte o nelle nuvole di Venere.
Punti chiave
- Ricercatori della Michigan State University hanno ingannato un'IA facendole identificare con sicurezza la non-vita come vita con circa 15 piccoli cambiamenti a una sequenza di test, ogni volta.
- Il team ha condotto il loro esperimento su 1.000 computer paralleli per tre mesi, utilizzando un programma chiamato Avida che simula organismi digitali che competono ed evolvono.
- Il problema fondamentale è chiamato "out-of-distribution" data: un'IA addestrata sulla vita terrestre non ha un punto di riferimento affidabile per la biologia aliena, che potrebbe sembrare completamente diversa.
- La NASA prevede di lanciare l'Habitable Worlds Observatory negli anni '40 per cercare segni di vita su pianeti al di fuori del nostro sistema solare, una missione che probabilmente si affiderebbe molto all'analisi dell'IA.
- Adami e Gupta presenteranno i loro risultati alla Conferenza 2026 sulla Vita Artificiale a Waterloo, in Canada, ad agosto.
Un'IA che identifica con sicurezza la vita dove non c'è sembra un piccolo difetto. In una futura missione su Marte, potrebbe fare la differenza tra una scoperta scientifica e un imbarazzante falso allarme sentito in tutto il mondo.
Christoph Adami, biologo computazionale della Michigan State University, e il suo studente Ankit Gupta hanno trascorso tre mesi a condurre un test che dovrebbe preoccupare chiunque sia entusiasta dell'esplorazione spaziale alimentata dall'IA. Il loro strumento era Avida, un programma per computer che Adami ha creato nel 1993 che gestisce piccoli organismi digitali: frammenti di codice che si replicano, competono per il tempo di elaborazione, e persino mutano, proprio come i batteri in una piastra di coltura.
Gli organismi in Avida hanno fornito al team un ampio e pulito set di dati di cose che sono vive (secondo le regole del programma) e cose che non lo sono. Hanno chiesto a un'IA di ordinarli.
L'IA ha fatto un lavoro ragionevolmente buono all'inizio. Poi i ricercatori hanno iniziato a spingere i campioni non-vita, modificando le loro sequenze molecolari un piccolo passo alla volta, ogni volta controllando se la fiducia dell'IA si fosse spostata. I risultati, come riportato da Space.com, erano evidenti.
"Con circa 15 cambiamenti o giù di lì possiamo far sì che l'IA sia perfettamente sicura di una classificazione di vita quando in realtà nemmeno una volta quando era al 100% sicura si trattava effettivamente di vita," ha detto Adami.
Non importava da quale sequenza non-vita iniziavano, l'IA era ingannata. Ogni volta.
La ragione sottostante è quella che i ricercatori chiamano un problema di "out-of-distribution". Pensatela così: se addestrate un'IA a riconoscere le mele e poi le mostrate una banana, fatica. La banana ha una forma sconosciuta, e l'IA non ha un buon modello mentale per essa. I microbi alieni, se esistono, potrebbero essere altrettanto estranei a un'IA addestrata interamente sulla biologia terrestre.
Questo è enormemente importante per le vere missioni. Un rover su Marte che trova qualcosa che sembra inequivocabilmente un microbo sotto un microscopio è una cosa. Ma la maggior parte dei tentativi di rilevamento della vita saranno molto più indiretti, utilizzando la spettrometria di massa, una tecnica che identifica le molecole misurando il loro peso, per setacciare i dati atmosferici da Venere, campioni oceanici dalla luna Europa di Giove, o firme luminose da pianeti a decine di anni luce di distanza.
Alimentate quei dati ambigui a un'IA addestrata solo sulla vita terrestre, e potreste ottenere una risposta sicura che è semplicemente sbagliata.
"Non puoi garantire nulla con la vita extraterrestre," ha detto Adami semplicemente.
Cosa significa tutto questo per le future missioni spaziali?
Significa che l'IA dovrebbe essere uno strumento di primo passaggio, non la parola finale. Adami non chiede di eliminare completamente l'IA dall'astrobiologia. Crede che abbia un valore genuino nel setacciare enormi quantità di dati sensoriali che nessun team umano potrebbe leggere abbastanza velocemente. L'avvertimento è più specifico: sapere su cosa è stato addestrato il tuo AI, e rimanere onesti su ciò che non può sapere.
Successivamente, il team pianifica di andare oltre gli organismi digitali e eseguire gli stessi test su dati chimici del mondo reale, una sfida più difficile e più rivelatrice.
