¿Pueden aprender los agentes de IA a pensar juntos? Un equipo de Cisco cree que tiene el tejido conectivo

Puntos clave

• Outshift by Cisco ha lanzado dos proyectos de código abierto, AGNTCY y Mycelium, diseñados para permitir que agentes de IA separados se coordinen sin supervisión humana.
• Las pruebas internas en 14 escenarios encontraron que grupos de agentes sin coordinar llegaban a una decisión correcta aproximadamente una tercera parte del tiempo; añadir un protocolo de alineación de objetivos lo llevó al 93 por ciento.
• Un estudio citado por el equipo registró tasas de fallo entre el 41 por ciento y el 87 por ciento en siete sistemas multiagente de código abierto.
• Una herramienta de seguridad llamada CASA (Autorización Semántica Continua de Agentes) verifica en tiempo real si cada acción que realiza un agente sigue coincidiendo con la tarea que se le asignó originalmente.
• Tanto AGNTCY como Mycelium ahora están gestionados bajo la Fundación Linux, la organización sin ánimo de lucro que supervisa software de código abierto ampliamente utilizado.

Imagina un hospital con cuatro agentes de IA separados: uno evalúa los síntomas, otro maneja la programación, otro se comunica con las aseguradoras, otro coordina la farmacia. Cada uno es experto en su propio área. Ninguno puede ponerse de acuerdo en un plan de tratamiento sin que un humano intervenga para traducir entre ellos.

Ese problema de transición, dice Vijoy Pandey, vicepresidente senior que dirige Outshift by Cisco, es el enigma central no resuelto en la IA moderna. La tecnología puede razonar. No puede colaborar.

¿Por qué es tan difícil coordinar agentes de IA?

Los sistemas de IA actuales han crecido principalmente haciéndose más grandes: modelos más grandes, más datos de entrenamiento, más potencia informática. Eso produce agentes individuales más inteligentes, pero el tamaño solo no les enseña a trabajar en equipo.

Los agentes conectados manejan tareas familiares lo suficientemente bien. Lo que no pueden hacer, argumenta Pandey, es mantener un objetivo compartido y razonar hacia una solución para la que ninguno de ellos fue diseñado. Esa es una brecha arquitectónica, no algo que se solucione escribiendo mejores instrucciones.

La investigación respalda la frustración. Un estudio de siete sistemas multiagente de código abierto encontró tasas de fallo que oscilaban entre el 41 por ciento y casi el 87 por ciento. Un único agente bien diseñado a menudo supera el rendimiento de un grupo mal coordinado. Nuestro informe del 14 de julio encontró que la mitad de las empresas ya había implementado un agente que causó problemas a un cliente real, con solo el 5 por ciento confiando plenamente en las pruebas diseñadas para detectar esos fallos, lo que hace que los números de coordinación de Outshift parezcan oportunos en lugar de meramente teóricos.

¿Qué ha construido realmente Outshift?

Dos herramientas, ambas gratuitas bajo licencias de código abierto.

AGNTCY es la capa de red. Piénsalo como un directorio y servicio postal para agentes de IA: permite que agentes de diferentes empresas y plataformas se encuentren entre sí, verifiquen identidad e intercambien mensajes a través de estándares compartidos. Ahora está bajo la Fundación Linux.

Mycelium se sitúa encima. Es un protocolo de coordinación que obliga a los agentes a declarar un objetivo común, exponer información faltante y resolver conflictos antes de que alguien actúe. En las propias pruebas de Outshift en 14 escenarios, grupos sin estructura llegaban a una decisión correcta aproximadamente una tercera parte del tiempo. Mycelium lo llevó al 93 por ciento.

Pandey llama al resultado combinado un "Internet de la Cognición", una capa compartida para la intención y el razonamiento que compara, con cierta ambición, con el salto cognitivo que convirtió a los primeros humanos dispersos en sociedades cooperadoras.

¿Deberían preocuparse las personas por agentes de IA actuando sin supervisión?

Sí, y Outshift dice que también lo hace. Vincular agentes entre sí crea riesgos reales: un agente puede accidentalmente otorgar a otro permisos que no debería tener, los malos actores pueden inyectar instrucciones falsas en la memoria compartida, y los agentes pueden realizar acciones muy fuera de su alcance original.

La respuesta propuesta de Outshift es CASA, que significa Autorización Semántica Continua de Agentes. Lee lo que un agente intenta lograr, luego verifica cada acción individual contra ese propósito declarado en tiempo real. En un ejemplo sanitario que da Pandey, un agente pedido que resuma un único registro de paciente no debería estar consultando toda la base de datos del hospital. CASA bloquearía esa llamada.

"Los controles actuales están limitados a un rol o una sesión, no a la tarea, así que un agente que recibe una herramienta puede usarla para cualquier cosa", le dijo Pandey a MIT Technology Review, que fue quien primero cubrió el proyecto. "Aproximadamente el 90 por ciento del tiempo, un agente no tiene forma de confirmar que ni siquiera está autorizado para el trabajo que se le asignó".

¿Qué significa esto para empresas o pacientes hoy?

Ni AGNTCY ni Mycelium es un producto terminado que una empresa pueda activar mañana. Son componentes, y los estándares alrededor de ellos aún se están escribiendo.

El consejo práctico de Pandey para empresas curiosas sobre sistemas multiagente: elige un flujo de trabajo multifuncional que actualmente necesita que un humano apruebe cada transición entre tres o cuatro equipos, luego ejecuta un piloto pequeño y medible en infraestructura abierta. Observa momentos en los que la salida de un agente hace que otro funcione mejor. Eso, dice, es la señal de que la coordinación horizontal está realmente funcionando.

Para pacientes o cualquiera que reciba servicios asistidos por IA: esta tecnología aún no ejecuta tu atención. El objetivo de la investigación es hacer que los sistemas eventuales sean más seguros, no eliminar hoy a los humanos del proceso. Esa es la posición honesta, y vale la pena mantenerla cuando la ambición de frases como "superinteligencia distribuida" comienza a superar la demostración.

Preguntas frecuentes

¿Qué es un sistema multiagente?

Un sistema multiagente es software que utiliza varios programas de IA separados, cada uno con su propia especialidad, para abordar un problema juntos, de la manera que un equipo de relevos se pasa una estafeta en lugar de que un corredor lo haga todo.

¿Se está construyendo aquí realmente "superinteligencia artificial"?

No. Pandey usa la frase para describir una dirección a largo plazo, no un producto inminente. Lo que Outshift ha lanzado son herramientas de coordinación para agentes de IA estrechamente enfocados de hoy, no un sistema que supere la inteligencia humana en todas las tareas.

¿Quién puede usar AGNTCY y Mycelium?

Ambos son de código abierto, así que cualquier desarrollador u organización puede descargar, inspeccionar y adaptar el código sin costo. Se mantienen bajo la Fundación Linux.