Können KI-Agenten zusammen denken lernen? Ein Cisco-Team glaubt, die Verbindung gefunden zu haben

Wichtige Punkte

• Outshift by Cisco, eine Forschungseinheit innerhalb von Cisco, hat zwei Open-Source-Projekte veröffentlicht, AGNTCY und Mycelium, die es separaten KI-Agenten ermöglichen, ohne menschliche Überwachung zu koordinieren.
• Interne Tests zeigten, dass unkoordinierte Gruppen von KI-Agenten etwa ein Drittel der Zeit zu einer korrekten Entscheidung gelangten; die Hinzufügung eines Zielausrichtungsprotokolls erhöhte diese Quote auf 93 Prozent.
• Eine vom Team zitierte Studie verzeichnete Fehlerquoten zwischen 41 und 87 Prozent in sieben Open-Source-Multi-Agent-Systemen – der Technologie, die mehrere KI-Agenten an einem Problem verketten.
• Ein neues Sicherheitstool namens CASA (Continuous Agent Semantic Authorization) überprüft in Echtzeit, ob jede Aktion, die ein Agent ausführt, noch mit der ursprünglichen Aufgabe übereinstimmt.
• Sowohl AGNTCY als auch Mycelium werden jetzt von der Linux Foundation verwaltet, der gemeinnützigen Organisation, die weit verbreitete Open-Source-Software überwacht.

Stellen Sie sich ein Krankenhaus mit vier separaten KI-Agenten vor: einer bewertet Symptome, einer kümmert sich um die Terminplanung, einer kommuniziert mit Versicherern, und einer koordiniert die Apotheke. Jeder ist in seinem Bereich kompetent. Keiner kann sich auf einen Behandlungsplan einigen, ohne dass ein Mensch eingreift und zwischen ihnen übersetzt.

Das Übergabeproblem, sagt Vijoy Pandey, der Senior Vice President, der Outshift by Cisco leitet, ist das Kernpuzzle der modernen KI. Die Technologie kann denken. Sie kann nur nicht zusammenarbeiten.

Warum ist die Koordination von KI-Agenten so schwierig?

Heutige KI-Systeme sind hauptsächlich durch Vergrößerung gewachsen: größere Modelle, mehr Trainingsdaten, mehr Rechenleistung. Dieser Ansatz erzeugt intelligentere einzelne Agenten, aber die Größe allein lehrt sie nicht, als Team zu arbeiten.

Verbundene Agenten bewältigen Aufgaben gut, wenn die Aufgabe vertraut aussieht. Was sie nicht können, argumentiert Pandey, ist ein gemeinsames Ziel halten und auf eine Lösung hinarbeiten, für die sie nicht konzipiert wurden. Das ist eine architektonische Lücke, nicht etwas, das man durch bessere Anweisungen behebt.

Forschung unterstützt die Frustration. Eine Studie über sieben Open-Source-Multi-Agent-Systeme fand Fehlerquoten zwischen 41 und knapp 87 Prozent. Ein einzeln gut gestalteter Agent übertrifft oft eine schlecht koordinierte Gruppe.

Was hat Outshift tatsächlich gebaut?

Zwei Tools, beide kostenlos zu nutzen und zu modifizieren unter Open-Source-Lizenzen.

AGNTCY ist die Netzwerkschicht. Denken Sie an sie als Verzeichnis und Postdienst für KI-Agenten: Sie ermöglicht es Agenten aus verschiedenen Unternehmen und Plattformen, sich gegenseitig zu finden, ihre Identität zu überprüfen und Nachrichten über gemeinsame Standards auszutauschen. Sie lebt jetzt unter der Linux Foundation.

Mycelium sitzt darauf. Es ist ein Koordinationsprotokoll, das Agenten zwingt, ein gemeinsames Ziel zu deklarieren, fehlende Informationen zu kennzeichnen und Konflikte zu lösen, bevor jemand handelt. In Outshifts eigenen Tests über 14 Szenarien erreichten unstrukturierte Agent-Gruppen etwa ein Drittel der Zeit eine korrekte Entscheidung. Mycelium brachte das auf 93 Prozent.

Pandey nennt das kombinierte Ergebnis ein „Internet of Cognition", eine gemeinsame Schicht für Absicht, Speicher und Denken, die er, mit einiger Ambition, mit dem kognitiven Sprung vergleicht, der verstreute frühe Menschen in kooperierende Gesellschaften verwandelte.

Sollten Menschen sich um KI-Agenten Sorgen machen, die ohne Aufsicht agieren?

Ja, und Outshift sagt, das tut es auch. Das Verbinden von Agenten schafft neue Risiken: ein Agent kann einem anderen versehentlich Berechtigungen gewähren, die dieser nicht haben sollte, Akteure mit bösen Absichten können falsche Anweisungen in den gemeinsamen Speicher einschleusen, und Agenten können Aktionen weit außerhalb des Umfangs ihrer ursprünglichen Aufgabe durchführen.

Die Antwort, die Outshift vorschlägt, ist CASA, Continuous Agent Semantic Authorization. Das Tool liest, was ein Agent versucht zu erreichen, und überprüft dann jede einzelne Aktion gegen diesen Zweck in Echtzeit. In einem Healthcare-Beispiel, das Pandey gibt, sollte ein Agent, der aufgefordert wird, eine einzelne Patientenakte zusammenzufassen, nicht eine gesamte Krankenhausdatenbank abfragen. CASA würde diesen Aufruf blockieren.

„Heutige Kontrollen sind auf eine Rolle oder eine Sitzung ausgerichtet, nicht auf die Aufgabe", sagte Pandey dem MIT Technology Review, das das Projekt zuerst abdeckte. „Etwa 90 Prozent der Zeit hat ein Agent keine Möglichkeit, zu bestätigen, dass er überhaupt für die Arbeit freigegeben ist, die ihm übertragen wurde."

Was bedeutet das für Unternehmen oder Patienten heute?

AGNTCY und Mycelium sind keine fertigen Produkte, die ein Unternehmen morgen einschalten kann. Sie sind Bausteine, und die Standards um sie herum werden noch geschrieben.

Pandeys praktischer Rat für Unternehmen, die an Multi-Agent-Systemen interessiert sind: Wählen Sie einen funktionsübergreifenden Arbeitsablauf, der derzeit eine menschliche Genehmigung bei jedem Übergabepunkt zwischen drei oder vier Teams benötigt, und führen Sie dann einen kleinen, messbaren Pilotversuch auf offener Infrastruktur durch. Achten Sie auf Momente, in denen die Ausgabe eines Agenten einen anderen Agenten besser arbeiten lässt. Das, sagt er, ist das Signal, dass horizontale Koordination tatsächlich funktioniert.

Für Patienten oder jeden, der von KI-gestützten Diensten profitiert, ist die ehrliche Position, dass diese Technologie noch nicht Ihre Versorgung leitet. Das Forschungsziel ist es, eventuelle Systeme sicherer und kohärenter zu machen, nicht heute Menschen aus der Schleife zu entfernen.

Häufig gestellte Fragen

Was ist ein Multi-Agent-System?

Ein Multi-Agent-System ist Software, die mehrere separate KI-Programme, jedes mit seiner eigenen Spezialität, nutzt, um ein Problem zusammen zu lösen, ähnlich wie eine Staffel einen Stab weitergeben würde, anstatt dass ein Läufer alles macht.

Wird hier tatsächlich „künstliche Superintelligenz" gebaut?

Nein. Pandey verwendet den Begriff, um eine langfristige Richtung zu beschreiben, nicht ein unmittelbar bevorstehendes Produkt. Was Outshift veröffentlicht hat, sind Koordinationswerkzeuge für heutige eng fokussierte KI-Agenten, nicht ein System, das menschliche Intelligenz in allen Aufgaben übersteigt.

Wer kann AGNTCY und Mycelium nutzen?

Beide sind Open-Source, was bedeutet, dass jeder Entwickler oder jede Organisation den Code kostenlos herunterladen, inspizieren und anpassen kann. Sie werden unter der Linux Foundation gepflegt.