Gli Agenti IA Riescono a Pensare Insieme? Un Team Cisco Crede di Avere la Risposta

Punti chiave

• Outshift by Cisco ha rilasciato due progetti open-source, AGNTCY e Mycelium, progettati per consentire ai diversi agenti IA di coordinarsi senza supervisione umana.
• I test interni su 14 scenari hanno scoperto che i gruppi di agenti non coordinati raggiungevano una decisione corretta circa un terzo delle volte; aggiungendo un protocollo di allineamento degli obiettivi, questo è salito al 93 percento.
• Uno studio citato dal team ha registrato tassi di fallimento tra il 41 e l'87 percento su sette sistemi multi-agente open-source.
• Uno strumento di sicurezza chiamato CASA (Continuous Agent Semantic Authorization) verifica in tempo reale se ogni azione intrapresa da un agente corrisponde ancora al compito originariamente assegnato.
• Sia AGNTCY che Mycelium sono ora gestiti dalla Linux Foundation, l'organizzazione no-profit che sovrintende il software open-source ampiamente utilizzato.

Immagina un ospedale con quattro agenti IA separati: uno valuta i sintomi, uno gestisce la pianificazione, uno comunica con gli assicuratori, uno coordina la farmacia. Ognuno è bravo nel suo ambito. Nessuno di loro può concordare su un piano di trattamento a meno che un umano intervenga per tradurre tra loro.

Quel problema di passaggio, secondo Vijoy Pandey, il vicepresidente senior che guida Outshift by Cisco, è il puzzle fondamentale irrisolto dell'IA moderna. La tecnologia sa ragionare. Non sa collaborare.

Perché è così difficile coordinare gli agenti IA?

I sistemi IA odierni si sono sviluppati principalmente diventando più grandi: modelli più ampi, più dati di addestramento, più potenza di calcolo. Ciò produce agenti individuali più intelligenti, ma la dimensione da sola non insegna loro a lavorare come una squadra.

Gli agenti collegati gestiscono abbastanza bene i compiti familiari. Quello che non riescono a fare, sostiene Pandey, è mantenere un obiettivo comune e ragionare verso una soluzione per cui nessuno è stato progettato. È un gap architetturale, non qualcosa che risolvi scrivendo istruzioni migliori.

La ricerca sostiene la frustrazione. Uno studio di sette sistemi multi-agente open-source ha trovato tassi di fallimento che vanno dal 41 al quasi 87 percento. Un singolo agente ben progettato spesso supera un gruppo male coordinato. Il nostro rapporto del 14 luglio ha scoperto che metà delle imprese aveva già distribuito un agente che ha causato problemi a un cliente reale, con solo il 5 percento che si fidava pienamente dei test pensati per catturare quei fallimenti, il che rende i numeri di coordinamento di Outshift rilevanti piuttosto che teorici.

Cosa ha effettivamente costruito Outshift?

Due strumenti, entrambi gratuiti con licenze open-source.

AGNTCY è il livello di rete. Pensalo come una directory e un servizio postale per gli agenti IA: consente ai agenti di diverse aziende e piattaforme di trovarsi, verificare l'identità e scambiarsi messaggi attraverso standard condivisi. Ora risiede sotto la Linux Foundation.

Mycelium si posiziona sopra. È un protocollo di coordinamento che costringe gli agenti a dichiarare un obiettivo comune, evidenziare le informazioni mancanti e risolvere i conflitti prima che qualcuno agisca. Nei test di Outshift su 14 scenari, i gruppi non strutturati hanno raggiunto una decisione corretta circa un terzo delle volte. Mycelium l'ha portato al 93 percento.

Pandey chiama il risultato combinato un "Internet della Cognizione", uno strato condiviso per l'intenzione e il ragionamento che confronta, con una certa ambizione, al salto cognitivo che ha trasformato i primi umani dispersi in società cooperanti.

Le persone dovrebbero preoccuparsi degli agenti IA che agiscono senza supervisione?

Sì, e Outshift dice che lo fa anche. Il collegamento tra agenti crea rischi reali: un agente può accidentalmente concedere a un altro permessi che non dovrebbe avere, gli attori malintenzionati possono iniettare istruzioni false nella memoria condivisa, e gli agenti possono intraprendere azioni ben oltre il loro scope originale.

La risposta proposta di Outshift è CASA, che sta per Continuous Agent Semantic Authorization. Legge quello che un agente sta cercando di accomplire, quindi controlla ogni singola azione rispetto a quello scopo dichiarato in tempo reale. In un esempio sanitario che Pandey fornisce, un agente incaricato di riassumere un singolo fascicolo paziente non dovrebbe interrogare l'intera banca dati ospedaliera. CASA bloccherebbe quella chiamata.

"I controlli odierni sono limitati a un ruolo o una sessione, non al compito, quindi un agente autorizzato a utilizzare uno strumento può usarlo per qualsiasi cosa," ha detto Pandey a MIT Technology Review, che ha coperto per prima il progetto. "Circa il 90% delle volte, un agente non ha modo di confermare che sia persino autorizzato per il compito che gli è stato assegnato."

Cosa significa tutto questo per le imprese o i pazienti oggi?

Né AGNTCY né Mycelium sono un prodotto finito che un'azienda può attivare domani. Sono elementi costitutivi, e gli standard intorno a loro sono ancora in fase di redazione.

Il consiglio pratico di Pandey per le aziende curiose riguardo ai sistemi multi-agente: seleziona un flusso di lavoro interfunzionale che attualmente richiede l'approvazione umana per ogni passaggio tra tre o quattro team, quindi esegui un piccolo pilot misurabile su infrastruttura aperta. Osserva i momenti in cui l'output di un agente fa funzionare meglio un altro. Questo, dice, è il segnale che il coordinamento orizzontale sta effettivamente funzionando.

Per i pazienti o chiunque riceva servizi assistiti da IA: questa tecnologia non sta ancora gestendo la tua assistenza. L'obiettivo della ricerca è rendere i sistemi eventuali più sicuri, non rimuovere gli umani dal processo oggi. Questa è la posizione onesta, e vale la pena mantenerla quando l'ambizione di frasi come "superintelligenza distribuita" inizia a superare la demo.

Domande frequenti

Cos'è un sistema multi-agente?

Un sistema multi-agente è software che utilizza diversi programmi IA separati, ognuno con la propria specialità, per affrontare un problema insieme, nel modo in cui una staffetta passa il testimone piuttosto che un solo corridore che fa tutto.

Viene effettivamente costruita la "superintelligenza artificiale" qui?

No. Pandey utilizza la frase per descrivere una direzione a lungo termine, non un prodotto imminente. Quello che Outshift ha rilasciato sono strumenti di coordinamento per gli agenti IA focalizzati di oggi, non un sistema che supera l'intelligenza umana in tutti i compiti.

Chi può usare AGNTCY e Mycelium?

Entrambi sono open-source, quindi qualsiasi sviluppatore o organizzazione può scaricare, ispezionare e adattare il codice senza costi. Sono mantenuti dalla Linux Foundation.