Les agents IA peuvent-ils apprendre à penser ensemble ? Une équipe Cisco croit avoir trouvé la solution

Points clés

• Outshift by Cisco a lancé deux projets open-source, AGNTCY et Mycelium, conçus pour permettre à des agents IA distincts de se coordonner sans supervision humaine.
• Les tests internes menés sur 14 scénarios ont montré que les groupes d'agents non coordonnés parvenaient à une décision correcte environ un tiers du temps ; l'ajout d'un protocole d'alignement des objectifs a porté ce taux à 93 pour cent.
• Une étude citée par l'équipe a enregistré des taux d'échec se situant entre 41 et 87 pour cent dans sept systèmes multi-agents open-source.
• Un outil de sécurité appelé CASA (Continuous Agent Semantic Authorization) vérifie en temps réel si chaque action entreprise par un agent correspond toujours à la tâche qui lui a été assignée à l'origine.
• AGNTCY et Mycelium sont désormais gérés par la Linux Foundation, l'organisme à but non lucratif qui supervise les logiciels open-source largement utilisés.

Imaginez un hôpital disposant de quatre agents IA distincts : l'un évalue les symptômes, un autre gère la planification, un troisième communique avec les assureurs, le dernier coordonne la pharmacie. Chacun excelle dans son domaine. Aucun d'eux ne peut s'accorder sur un plan de traitement sans qu'un humain intervienne pour traduire entre eux.

Ce problème de coordination, selon Vijoy Pandey, vice-président senior dirigeant Outshift by Cisco, est l'énigme centrale non résolue de l'IA moderne. La technologie peut raisonner. Elle ne peut pas collaborer.

Pourquoi coordonner les agents IA est-il si difficile ?

Jusqu'à présent, l'évolution des systèmes IA s'est faite principalement par augmentation de leur taille : modèles plus grands, plus de données d'entraînement, plus de puissance de calcul. Cela produit des agents individuels plus intelligents, mais la taille seule ne leur apprend pas à travailler en équipe.

Les agents connectés s'acquittent bien des tâches familières. Ce qu'ils ne peuvent pas faire, selon Pandey, c'est maintenir un objectif commun et raisonner en vue d'une solution pour laquelle aucun d'eux n'a été conçu. C'est une lacune architecturale, pas quelque chose qu'on résout en rédigeant de meilleures instructions.

La recherche confirme cette frustration. Une étude portant sur sept systèmes multi-agents open-source a relevé des taux d'échec allant de 41 à près de 87 pour cent. Un seul agent bien conçu surpasse souvent un groupe mal coordonné. Notre rapport du 14 juillet a révélé que la moitié des entreprises avaient déjà déployé un agent ayant causé des problèmes à un vrai client, seuls 5 pour cent faisant entièrement confiance aux tests censés détecter ces défaillances, ce qui rend les chiffres de coordination d'Outshift d'autant plus pertinents qu'ils ne relèvent pas du théorique.

Qu'a réellement construit Outshift ?

Deux outils, gratuits d'utilisation selon des licences open-source.

AGNTCY est la couche réseau. Pensez-y comme un répertoire et un service postal pour agents IA : il permet aux agents de différentes entreprises et plateformes de se découvrir, de vérifier leur identité et d'échanger des messages selon des normes partagées. Il relève désormais de la Linux Foundation.

Mycelium se situe au-dessus. C'est un protocole de coordination qui oblige les agents à déclarer un objectif commun, à exposer les informations manquantes et à résoudre les conflits avant d'agir. Dans les propres tests d'Outshift menés sur 14 scénarios, les groupes non structurés parvenaient à une décision correcte environ un tiers du temps. Mycelium l'a porté à 93 pour cent.

Pandey qualifie le résultat combiné d'« Internet de la Cognition », une couche partagée pour l'intention et le raisonnement qu'il compare, avec une certaine ambition, au saut cognitif qui a transformé les premiers humains dispersés en sociétés coopératives.

Faut-il craindre que les agents IA agissent sans supervision ?

Oui, et Outshift affirme en être conscient. La connexion d'agents entre eux crée des risques réels : un agent peut accidentellement accorder à un autre des permissions qu'il ne devrait pas avoir, des acteurs malveillants peuvent injecter de fausses instructions dans la mémoire partagée, et les agents peuvent entreprendre des actions bien au-delà de leur portée initiale.

La réponse proposée par Outshift est CASA, qui signifie Continuous Agent Semantic Authorization. Elle détermine ce qu'un agent essaie d'accomplir, puis vérifie chaque action individuelle par rapport à cet objectif déclaré en temps réel. Dans un exemple du secteur de la santé que donne Pandey, un agent chargé de résumer le dossier d'un seul patient ne devrait pas interroger l'ensemble de la base de données d'un hôpital. CASA bloquerait cet appel.

« Les contrôles d'aujourd'hui sont limités à un rôle ou une session, pas à la tâche, donc un agent autorisé à utiliser un outil peut l'utiliser pour n'importe quoi », a déclaré Pandey à MIT Technology Review, qui a couvert le projet en premier. « Dans environ 90 pour cent des cas, un agent n'a aucun moyen de confirmer qu'il est autorisé à accomplir la tâche qui lui a été confiée. »

Qu'est-ce que cela signifie pour les entreprises ou les patients aujourd'hui ?

Ni AGNTCY ni Mycelium ne sont des produits finis qu'une entreprise peut mettre en place demain. Ce sont des éléments constitutifs, et les normes qui les entourent sont encore en cours d'élaboration.

Le conseil pratique de Pandey pour les entreprises intéressées par les systèmes multi-agents : sélectionnez un flux de travail transversal qui nécessite actuellement l'approbation d'un humain à chaque transfert entre trois ou quatre équipes, puis lancez un petit projet pilote mesurable sur une infrastructure ouverte. Repérez les moments où la production d'un agent améliore les performances d'un autre. C'est là, dit-il, le signal montrant que la coordination horizontale fonctionne réellement.

Pour les patients ou toute personne recevant des services assistés par IA : cette technologie n'intervient pas encore dans vos soins. L'objectif de la recherche est de rendre les futurs systèmes plus sûrs, non de retirer les humains de la boucle aujourd'hui. C'est la position honnête, et il convient de s'y tenir quand l'ambition de phrases comme « superintelligence distribuée » commence à dépasser la démonstration.

Questions courantes

Qu'est-ce qu'un système multi-agents ?

Un système multi-agents est un logiciel qui utilise plusieurs programmes IA distincts, chacun possédant sa propre spécialité, pour aborder ensemble un problème, comme une équipe de relais qui se passe un bâton plutôt qu'un coureur faisant tout.

Construit-on réellement une « superintelligence artificielle » ici ?

Non. Pandey utilise l'expression pour décrire une direction long terme, pas un produit imminent. Ce qu'Outshift a lancé, ce sont des outils de coordination pour les agents IA actuels aux capacités limitées, pas un système qui surpasse l'intelligence humaine dans tous les domaines.

Qui peut utiliser AGNTCY et Mycelium ?

Les deux sont open-source, donc tout développeur ou organisation peut télécharger, inspecter et adapter le code gratuitement. Ils sont maintenus par la Linux Foundation.