Les agents d'IA peuvent-ils apprendre à penser ensemble ? Une équipe Cisco pense avoir trouvé la solution

Points clés

• Outshift by Cisco, une unité de recherche au sein de Cisco, a lancé deux projets open-source, AGNTCY et Mycelium, conçus pour permettre à des agents d'IA distincts de se coordonner sans supervision humaine.
• Les tests internes ont montré que les groupes d'agents d'IA non coordonnés parvenaient à une bonne décision environ un tiers du temps ; l'ajout d'un protocole d'alignement des objectifs a porté ce taux à 93 pour cent.
• Une étude citée par l'équipe a enregistré des taux d'échec entre 41 et 87 pour cent dans sept systèmes multi-agents open-source, la technologie qui enchaîne plusieurs agents d'IA sur un seul problème.
• Un nouvel outil de sécurité appelé CASA (Continuous Agent Semantic Authorization) vérifie en temps réel si chaque action entreprise par un agent correspond toujours à la tâche qui lui a été confiée à l'origine.
• AGNTCY et Mycelium sont désormais gérés par la Linux Foundation, l'organisation à but non lucratif qui supervise les logiciels open-source largement utilisés.

Imaginez un hôpital avec quatre agents d'IA distincts : l'un évalue les symptômes, l'autre gère la planification, un troisième communique avec les assureurs, et le dernier coordonne la pharmacie. Chacun excelle dans son domaine. Aucun d'entre eux ne peut s'accorder sur un plan de traitement sans qu'un humain intervienne pour traduire entre eux.

Ce problème de transmission, selon Vijoy Pandey, vice-président senior dirigeant Outshift by Cisco, est l'énigme fondamentale non résolue de l'IA moderne. La technologie peut raisonner. Elle ne peut tout simplement pas collaborer.

Pourquoi est-il si difficile de coordonner les agents d'IA ?

Jusqu'à présent, les systèmes d'IA se sont développés en devenant plus grands : modèles plus volumineux, davantage de données d'entraînement, plus de puissance de calcul. Cette approche produit des agents individuels plus intelligents, mais la taille seule ne leur apprend pas à travailler en équipe.

Les agents connectés gèrent bien les tâches lorsque la tâche ressemble à quelque chose de familier. Ce qu'ils ne peuvent pas faire, soutient Pandey, c'est maintenir un objectif commun et raisonner pour atteindre une solution pour laquelle aucun d'eux n'a été conçu. C'est une lacune architecturale, pas quelque chose que vous pouvez corriger en rédigeant de meilleures instructions.

La recherche confirme cette frustration. Une étude sur sept systèmes multi-agents open-source a trouvé des taux d'échec allant de 41 pour cent à près de 87 pour cent. Un agent unique bien conçu surpasse souvent un groupe mal coordonné.

Qu'a réellement construit Outshift ?

Deux outils, tous deux libres d'utilisation et de modification selon des licences open-source.

AGNTCY est la couche réseau. Pensez-y comme un répertoire et un service postal pour les agents d'IA : il permet aux agents de différentes entreprises et plateformes de se trouver, de vérifier leur identité et d'échanger des messages selon des normes partagées. Il relève désormais de la Linux Foundation.

Mycelium se situe au-dessus. C'est un protocole de coordination qui oblige les agents à déclarer un objectif commun, à signaler les informations manquantes et à résoudre les conflits avant que quiconque n'agisse. Dans les propres tests d'Outshift sur 14 scénarios, les groupes d'agents non structurés ont atteint une bonne décision environ un tiers du temps. Mycelium a porté ce résultat à 93 pour cent.

Pandey qualifie le résultat combiné d'« Internet de la Cognition », une couche partagée pour l'intention, la mémoire et le raisonnement qu'il compare, avec une certaine ambition, au bond cognitif qui a transformé les humains précoces et dispersés en sociétés coopérantes.

Faut-il craindre que les agents d'IA agissent sans supervision ?

Oui, et Outshift affirme que c'est aussi son avis. Le fait de relier les agents ensemble crée de nouveaux risques : un agent peut accidentellement accorder à un autre des permissions qu'il ne devrait pas avoir, des acteurs malveillants peuvent injecter de fausses instructions dans la mémoire partagée, et les agents peuvent entreprendre des actions bien en dehors de la portée de leur tâche d'origine.

La solution qu'Outshift propose est CASA, Continuous Agent Semantic Authorization. L'outil lit ce qu'un agent essaie d'accomplir, puis vérifie chaque action individuelle par rapport à cet objectif déclaré en temps réel. Dans un exemple de soins de santé que Pandey donne, un agent chargé de résumer un dossier patient unique ne devrait pas interroger une base de données hospitalière entière. CASA bloquerait cet appel.

« Les contrôles actuels s'appliquent à un rôle ou à une session, pas à la tâche », a déclaré Pandey à MIT Technology Review, qui a couvert le projet en premier. « Environ 90 pour cent du temps, un agent n'a aucun moyen de confirmer qu'il est même autorisé pour la tâche qui lui a été confiée. »

Qu'est-ce que cela signifie pour les entreprises ou les patients aujourd'hui ?

AGNTCY et Mycelium ne sont pas des produits finis qu'une entreprise peut activer demain. Ce sont des blocs de construction, et les normes les concernant sont encore en cours de rédaction.

Le conseil pratique de Pandey pour les entreprises curieuses des systèmes multi-agents : choisissez un flux de travail transversal qui nécessite actuellement qu'un humain approuve chaque passage entre trois ou quatre équipes, puis lancez un petit projet pilote mesurable sur une infrastructure ouverte. Observez les moments où le résultat d'un agent rend un autre agent plus performant. C'est là, dit-il, que le signal indique que la coordination horizontale fonctionne vraiment.

Pour les patients ou toute personne recevant des services assistés par l'IA, la position honnête est que cette technologie ne gère pas encore vos soins. L'objectif de la recherche est de rendre les systèmes éventuels plus sûrs et plus cohérents, pas d'éliminer les humains de la boucle aujourd'hui.

Questions courantes

Qu'est-ce qu'un système multi-agents ?

Un système multi-agents est un logiciel qui utilise plusieurs programmes d'IA distincts, chacun ayant sa propre spécialité, pour résoudre ensemble un problème, comme une équipe de relais qui se passe un bâton plutôt qu'un seul coureur qui fait tout.

Une « superintelligence artificielle » est-elle réellement en construction ici ?

Non. Pandey utilise l'expression pour décrire une direction à long terme, pas un produit imminent. Ce qu'Outshift a publié sont des outils de coordination pour les agents d'IA actuellement étroitement focalisés, pas un système qui dépasse l'intelligence humaine dans tous les domaines.

Qui peut utiliser AGNTCY et Mycelium ?

Les deux sont open-source, ce qui signifie que tout développeur ou organisation peut télécharger, inspecter et adapter le code gratuitement. Ils sont maintenus par la Linux Foundation.