Gli agenti AI riescono a pensare insieme? Un team Cisco crede di avere la soluzione

Punti chiave

• Outshift by Cisco, un'unità di ricerca all'interno di Cisco, ha rilasciato due progetti open-source, AGNTCY e Mycelium, progettati per consentire a agenti AI separati di coordinarsi senza supervisione umana.
• I test interni hanno rilevato che gruppi non coordinati di agenti AI raggiungevano una decisione corretta circa un terzo delle volte; l'aggiunta di un protocollo di allineamento degli obiettivi ha portato questo tasso al 93 percento.
• Uno studio citato dal team ha registrato tassi di errore tra il 41 e l'87 percento su sette sistemi multi-agente open-source, la tecnologia che concatena diversi agenti AI insieme su un singolo problema.
• Un nuovo strumento di sicurezza chiamato CASA (Continuous Agent Semantic Authorization) verifica in tempo reale se ogni azione intrapresa da un agente corrisponde ancora al compito originario assegnatogli.
• Sia AGNTCY che Mycelium sono ora gestiti dalla Linux Foundation, l'organizzazione no-profit che sovrintende al software open-source ampiamente utilizzato.

Immagina un ospedale con quattro agenti AI separati: uno valuta i sintomi, uno gestisce la programmazione, uno comunica con gli assicuratori e uno coordina la farmacia. Ognuno è bravo nel suo ambito. Nessuno di loro può concordare un piano di trattamento senza che un umano intervenga per tradurre tra loro.

Quel problema di transizione, secondo Vijoy Pandey, vicepresidente senior che guida Outshift by Cisco, è il puzzle centrale irrisolto dell'IA moderna. La tecnologia sa ragionare. Semplicemente non sa collaborare.

Perché coordinare agenti AI è così difficile?

I sistemi di IA attuali si sono sviluppati principalmente diventando più grandi: modelli più grandi, più dati di addestramento, più potenza di calcolo. Questo approccio produce agenti individuali più intelligenti, ma la sola dimensione non insegna loro a lavorare come una squadra.

Gli agenti connessi gestiscono bene i compiti quando il compito sembra familiare. Quello che non possono fare, sostiene Pandey, è mantenere un obiettivo comune e ragionare verso una soluzione per cui non erano stati progettati. Si tratta di una lacuna architettonica, non qualcosa che si risolve scrivendo istruzioni migliori.

La ricerca supporta questa frustrazione. Uno studio di sette sistemi multi-agente open-source ha riscontrato tassi di errore che variano dal 41 percento a quasi l'87 percento. Un singolo agente ben progettato spesso supera un gruppo male coordinato.

Cosa ha effettivamente costruito Outshift?

Due strumenti, entrambi gratuiti da usare e modificare secondo licenze open-source.

AGNTCY è il livello di rete. Pensalo come una directory e un servizio postale per agenti AI: consente agli agenti di diverse aziende e piattaforme di trovarsi l'uno l'altro, verificare la loro identità e scambiarsi messaggi attraverso standard condivisi. Ora è gestito dalla Linux Foundation.

Mycelium si trova sopra. È un protocollo di coordinamento che costringe gli agenti a dichiarare un obiettivo comune, segnalare le informazioni mancanti e risolvere i conflitti prima che qualcuno agisca. Nei test stessi di Outshift su 14 scenari, i gruppi di agenti non strutturati hanno raggiunto una decisione corretta circa un terzo delle volte. Mycelium ha portato quello al 93 percento.

Pandey chiama il risultato combinato un "Internet della Cognizione", uno strato condiviso per intenzione, memoria e ragionamento che paragona, con una certa ambizione, al salto cognitivo che ha trasformato i primi umani sparsi in società cooperative.

Le persone dovrebbero preoccuparsi degli agenti AI che agiscono senza supervisione?

Sì, e Outshift afferma che lo fa anche lei. Collegare agenti insieme crea nuovi rischi: un agente può concedere accidentalmente a un altro permessi che non dovrebbe avere, i cattivi attori possono iniettare istruzioni false nella memoria condivisa e gli agenti possono intraprendere azioni ben al di fuori dell'ambito del loro compito originario.

La risposta che Outshift propone è CASA, Continuous Agent Semantic Authorization. Lo strumento legge quello che un agente sta cercando di realizzare, quindi verifica ogni singola azione rispetto a quello scopo dichiarato in tempo reale. In un esempio sanitario che Pandey fornisce, un agente incaricato di riassumere un singolo fascicolo paziente non dovrebbe interrogare l'intero database ospedaliero. CASA bloccerebbe quella chiamata.

"I controlli odierni sono limitati a un ruolo o a una sessione, non al compito", ha dichiarato Pandey a MIT Technology Review, che per primo ha coperto il progetto. "Circa il 90 percento delle volte, un agente non ha modo di confermare che è stato autorizzato a svolgere il compito che gli è stato assegnato".

Cosa significa questo per le aziende o i pazienti oggi?

Né AGNTCY né Mycelium è un prodotto finito che un'azienda può attivare domani. Sono elementi costitutivi e gli standard intorno ad essi sono ancora in fase di stesura.

Il consiglio pratico di Pandey per le aziende interessate ai sistemi multi-agente: scegli un flusso di lavoro trasversale che attualmente necessita che un umano approvi ogni transizione tra tre o quattro team, poi esegui un piccolo progetto pilota misurabile su infrastrutture aperte. Osserva i momenti in cui l'output di un agente fa sì che un altro agente funzioni meglio. Quello, sostiene, è il segnale che il coordinamento orizzontale sta effettivamente funzionando.

Per i pazienti o chiunque sia sul lato ricevente di servizi assistiti da IA, la posizione onesta è che questa tecnologia non sta ancora gestendo la tua assistenza. L'obiettivo della ricerca è rendere gli eventuali sistemi più sicuri e coerenti, non rimuovere gli umani dal circuito oggi.

Domande frequenti

Cos'è un sistema multi-agente?

Un sistema multi-agente è software che utilizza diversi programmi AI separati, ognuno con la propria specialità, per affrontare insieme un problema, come una staffetta che passa il testimone piuttosto che un singolo corridore che fa tutto.

Si sta effettivamente costruendo "superintelligenza artificiale" qui?

No. Pandey usa la frase per descrivere una direzione a lungo termine, non un prodotto imminente. Quello che Outshift ha rilasciato sono strumenti di coordinamento per gli agenti AI di oggi dal focus ristretto, non un sistema che supera l'intelligenza umana in tutti i compiti.

Chi può usare AGNTCY e Mycelium?

Entrambi sono open-source, il che significa che qualsiasi sviluppatore o organizzazione può scaricare, ispezionare e adattare il codice gratuitamente. Sono mantenuti dalla Linux Foundation.