Können KI-Agenten lernen, zusammen zu denken? Ein Cisco-Team meint, die Lösung gefunden zu haben

Wichtigste Punkte

• Outshift by Cisco hat zwei Open-Source-Projekte veröffentlicht, AGNTCY und Mycelium, mit denen separate KI-Agenten ohne menschliche Überwachung koordinieren können.
• Interne Tests in 14 Szenarien zeigten, dass unkoordinierte Agentgruppen zu etwa einem Drittel die richtige Entscheidung trafen; durch ein Zielabstimmungsprotokoll stieg dieser Wert auf 93 Prozent.
• Eine von dem Team zitierte Studie verzeichnete Fehlerquoten zwischen 41 und 87 Prozent in sieben Open-Source-Multi-Agent-Systemen.
• Ein Sicherheitstool namens CASA (Continuous Agent Semantic Authorization) prüft in Echtzeit, ob jede Aktion eines Agenten immer noch der ursprünglichen Aufgabe entspricht.
• Sowohl AGNTCY als auch Mycelium werden nun von der Linux Foundation verwaltet, der gemeinnützigen Organisation, die weit verbreitete Open-Source-Software betreut.

Stellen Sie sich ein Krankenhaus mit vier separaten KI-Agenten vor: einer bewertet Symptome, einer kümmert sich um die Terminplanung, einer kommuniziert mit Versicherungen, einer koordiniert die Apotheke. Jeder ist in seiner eigenen Spur kompetent. Keiner von ihnen kann sich auf einen Behandlungsplan einigen, ohne dass ein Mensch zwischen ihnen übersetzt.

Dieses Übergabeproblem, sagt Vijoy Pandey, Senior Vice President von Outshift by Cisco, ist das Kernproblem in der modernen KI. Die Technologie kann denken. Sie kann nicht zusammenarbeiten.

Warum ist die Koordination von KI-Agenten so schwierig?

Heutige KI-Systeme sind vor allem größer geworden: größere Modelle, mehr Trainingsdaten, mehr Rechenleistung. Das erzeugt intelligentere Einzelagenten, aber Größe allein lehrt sie nicht, als Team zu arbeiten.

Vernetzte Agenten bewältigen bekannte Aufgaben gut genug. Was sie nicht können, argumentiert Pandey, ist ein gemeinsames Ziel zu verfolgen und auf eine Lösung hinzuarbeiten, für die keiner von ihnen konzipiert wurde. Das ist eine architektonische Lücke, nicht etwas, das man durch bessere Anweisungen beheben kann.

Forschung bestätigt die Frustration. Eine Studie über sieben Open-Source-Multi-Agent-Systeme verzeichnete Fehlerquoten von 41 bis knapp 87 Prozent. Ein einzelner, gut gestalteter Agent übertrifft oft eine schlecht koordinierte Gruppe. Unser Bericht vom 14. Juli zeigte, dass die Hälfte der Unternehmen bereits einen Agenten eingesetzt hatte, der für einen echten Kunden Probleme verursachte, wobei nur 5 Prozent den Tests, die diese Fehler erfassen sollen, vollständig vertrauen – was Outshifts Koordinationszahlen zeitnah statt nur theoretisch wirken lässt.

Was hat Outshift tatsächlich gebaut?

Zwei Tools, beide kostenlos unter Open-Source-Lizenzen nutzbar.

AGNTCY ist die Netzwerkschicht. Stellen Sie es sich als Verzeichnis und Postdienst für KI-Agenten vor: Es lässt Agenten von verschiedenen Unternehmen und Plattformen einander finden, Identität verifizieren und Nachrichten über gemeinsame Standards austauschen. Es wird nun von der Linux Foundation verwaltet.

Mycelium sitzt oben drauf. Es ist ein Koordinationsprotokoll, das Agenten zwingt, ein gemeinsames Ziel zu erklären, fehlende Informationen ans Licht zu bringen und Konflikte zu lösen, bevor jemand handelt. In Outshifts eigenen Tests in 14 Szenarien erreichten unstrukturierte Gruppen zu etwa einem Drittel die richtige Entscheidung. Mycelium brachte das auf 93 Prozent.

Pandey nennt das Ergebnis ein „Internet of Cognition", eine gemeinsame Schicht für Absicht und Denken, die er, mit einigem Ehrgeiz, mit dem kognitiven Sprung vergleicht, der verstreute frühe Menschen in zusammenarbeitende Gesellschaften verwandelte.

Sollten sich Menschen Sorgen machen, dass KI-Agenten unüberwacht handeln?

Ja, und Outshift sagt, das tut es auch. Die Verlinkung von Agenten schafft echte Risiken: ein Agent kann einem anderen versehentlich Berechtigungen gewähren, die er nicht haben sollte, böswillige Akteure können falsche Anweisungen in den gemeinsamen Speicher injizieren, und Agenten können Maßnahmen ergreifen, die weit außerhalb ihres ursprünglichen Bereichs liegen.

Outshifts vorgeschlagene Antwort ist CASA, das für Continuous Agent Semantic Authorization steht. Es liest, was ein Agent erreichen möchte, und prüft dann jede einzelne Aktion in Echtzeit gegen diesen angegebenen Zweck. In einem Gesundheitswesen-Beispiel, das Pandey gibt, sollte ein Agent, der gebeten wird, einen einzelnen Patientendatensatz zusammenzufassen, nicht die gesamte Krankenhausdatenbank abfragen. CASA würde diesen Aufruf blockieren.

„Heutige Kontrollen beziehen sich auf eine Rolle oder Sitzung, nicht auf die Aufgabe, sodass ein Agent, dem ein Tool gewährt wird, es für alles nutzen kann", sagte Pandey dem MIT Technology Review, das das Projekt zuerst abdeckte. „Etwa 90 Prozent der Zeit hat ein Agent keine Möglichkeit, auch nur zu bestätigen, dass er für die Aufgabe, die ihm gegeben wurde, überhaupt berechtigt ist."

Was bedeutet das heute für Unternehmen oder Patienten?

Weder AGNTCY noch Mycelium sind ein fertiges Produkt, das ein Unternehmen morgen einfach einschalten kann. Sie sind Bausteine, und die Standards um sie herum werden noch geschrieben.

Pandeys praktischer Rat für Unternehmen, die an Multi-Agent-Systemen interessiert sind: Wählen Sie einen funktionsübergreifenden Arbeitsablauf, der derzeit einen Menschen benötigt, um jeden Übergabepunkt zwischen drei oder vier Teams zu genehmigen, und führen Sie dann ein kleines, messbares Pilotprojekt auf offener Infrastruktur durch. Achten Sie auf Momente, in denen die Ausgabe eines Agenten einen anderen besser arbeiten lässt. Das, sagt er, ist das Zeichen, dass horizontale Koordination tatsächlich funktioniert.

Für Patienten oder alle, die KI-gestützte Dienste erhalten: Diese Technologie führt derzeit noch nicht Ihre Versorgung durch. Das Forschungsziel ist es, eventuelle Systeme sicherer zu machen, nicht heute Menschen aus der Schleife zu entfernen. Das ist die ehrliche Position, und es ist wert, sich daran zu halten, wenn die Ambition von Ausdrücken wie „verteilte Superintelligenz" die Demo zu überflügeln beginnt.

Häufige Fragen

Was ist ein Multi-Agent-System?

Ein Multi-Agent-System ist Software, die mehrere separate KI-Programme, jedes mit seiner eigenen Spezialität, einsetzt, um ein Problem zusammen zu lösen – wie ein Staffellauf-Team, das einen Stab herumreicht, anstatt dass ein Läufer alles tut.

Wird hier tatsächlich „künstliche Superintelligenz" gebaut?

Nein. Pandey verwendet den Ausdruck, um eine langfristige Richtung zu beschreiben, nicht um ein unmittelbar bevorstehendes Produkt. Was Outshift veröffentlicht hat, sind Koordinationstools für die heutigen eng fokussierten KI-Agenten, kein System, das menschliche Intelligenz über alle Aufgaben hinaus übersteigt.

Wer kann AGNTCY und Mycelium nutzen?

Beide sind Open-Source, daher kann jeder Entwickler oder jede Organisation den Code kostenlos herunterladen, inspizieren und anpassen. Sie werden unter der Linux Foundation verwaltet.