¿Pueden los agentes de IA aprender a pensar juntos? Un equipo de Cisco cree que tiene el tejido conectivo

Puntos clave

• Outshift by Cisco, una unidad de investigación dentro de Cisco, ha lanzado dos proyectos de código abierto, AGNTCY y Mycelium, diseñados para permitir que agentes de IA separados se coordinen sin supervisión humana.
• Las pruebas internas encontraron que grupos descoordinados de agentes de IA llegaban a una decisión correcta aproximadamente una tercera parte del tiempo; añadir un protocolo de alineación de objetivos elevó esa tasa al 93 por ciento.
• Un estudio citado por el equipo registró tasas de fallo entre el 41 por ciento y el 87 por ciento en siete sistemas de múltiples agentes de código abierto, la tecnología que encadena varios agentes de IA en un único problema.
• Una nueva herramienta de seguridad llamada CASA (Autorización Semántica Continua del Agente) verifica en tiempo real si cada acción que realiza un agente sigue coincidiendo con la tarea que se le asignó originalmente.
• Tanto AGNTCY como Mycelium ahora están gestionados bajo la Fundación Linux, la organización sin ánimo de lucro que supervisa software de código abierto ampliamente utilizado.

Imagina un hospital con cuatro agentes de IA separados: uno evalúa síntomas, otro gestiona la programación, uno se comunica con las aseguradoras y otro coordina la farmacia. Cada uno es experto en su propio ámbito. Ninguno de ellos puede estar de acuerdo en un plan de tratamiento a menos que un humano intervenga para traducir entre ellos.

Ese problema de transición, dice Vijoy Pandey, el vicepresidente senior que dirige Outshift by Cisco, es el puzzle no resuelto en la IA moderna. La tecnología puede razonar. Simplemente no puede colaborar.

¿Por qué es tan difícil coordinar agentes de IA?

Los sistemas de IA actuales han crecido principalmente haciéndose más grandes: modelos más grandes, más datos de entrenamiento, más potencia de cálculo. Ese enfoque produce agentes individuales más inteligentes, pero el tamaño por sí solo no les enseña a trabajar en equipo.

Los agentes conectados manejan bien las tareas cuando la tarea se ve familiar. Lo que no pueden hacer, argumenta Pandey, es mantener un objetivo compartido y razonar hacia una solución para la que ninguno fue diseñado. Esa es una brecha arquitectónica, no algo que se solucione escribiendo mejores instrucciones.

La investigación respalda la frustración. Un estudio de siete sistemas de múltiples agentes de código abierto encontró tasas de fallo que oscilaban entre el 41 por ciento y casi el 87 por ciento. Un agente bien diseñado a menudo supera el desempeño de un grupo mal coordinado.

¿Qué ha construido realmente Outshift?

Dos herramientas, ambas gratuitas de usar y modificar bajo licencias de código abierto.

AGNTCY es la capa de red. Piénsalo como un directorio y servicio postal para agentes de IA: permite que agentes de diferentes empresas y plataformas se encuentren entre sí, verifiquen quiénes son e intercambien mensajes a través de estándares compartidos. Ahora vive bajo la Fundación Linux.

Mycelium se sitúa en la capa superior. Es un protocolo de coordinación que obliga a los agentes a declarar un objetivo común, señalar información faltante y resolver conflictos antes de que alguien actúe. En las propias pruebas de Outshift en 14 escenarios, los grupos de agentes no estructurados llegaron a una decisión correcta aproximadamente una tercera parte del tiempo. Mycelium lo llevó al 93 por ciento.

Pandey llama al resultado combinado un "Internet de la Cognición", una capa compartida para la intención, la memoria y el razonamiento que compara, con cierta ambición, con el salto cognitivo que transformó a los primeros humanos dispersos en sociedades cooperativas.

¿Debería preocuparse la gente por agentes de IA actuando sin supervisión?

Sí, y Outshift dice que también. Vincular agentes crea nuevos riesgos: un agente puede accidentalmente otorgar a otro permisos que no debería tener, los actores malintencionados pueden inyectar instrucciones falsas en la memoria compartida, y los agentes pueden tomar acciones muy fuera del alcance de su tarea original.

La respuesta que propone Outshift es CASA, Autorización Semántica Continua del Agente. La herramienta lee lo que un agente está intentando lograr, luego verifica cada acción individual contra ese propósito declarado en tiempo real. En un ejemplo de atención médica que da Pandey, un agente a quien se le pide resumir un único registro de paciente no debería estar consultando una base de datos hospitalaria completa. CASA bloquearía esa llamada.

"Los controles actuales están limitados a un rol o una sesión, no a la tarea", dijo Pandey a MIT Technology Review, que fue la primera en cubrir el proyecto. "Aproximadamente el 90 por ciento del tiempo, un agente no tiene forma de confirmar que está autorizado para el trabajo que se le encomendó".

¿Qué significa esto para las empresas o pacientes hoy?

Ni AGNTCY ni Mycelium son un producto terminado que una empresa pueda activar mañana. Son bloques de construcción, y los estándares que los rodean aún se están escribiendo.

El consejo práctico de Pandey para las empresas curiosas sobre sistemas de múltiples agentes: elige un flujo de trabajo multifuncional que actualmente necesita que un humano apruebe cada transición entre tres o cuatro equipos, luego ejecuta un piloto pequeño y medible en infraestructura abierta. Observa los momentos en que el resultado de un agente hace que otro agente tenga mejor desempeño. Eso, dice, es la señal de que la coordinación horizontal realmente está funcionando.

Para pacientes o cualquiera que reciba servicios asistidos por IA, la posición honesta es que esta tecnología aún no está ejecutando tu atención. El objetivo de la investigación es hacer que los sistemas eventuales sean más seguros y coherentes, no para eliminar a los humanos del proceso hoy.

Preguntas frecuentes

¿Qué es un sistema de múltiples agentes?

Un sistema de múltiples agentes es software que utiliza varios programas de IA separados, cada uno con su propia especialidad, para abordar un problema conjuntamente, de la manera que un equipo de relevos se pasa un testigo en lugar de que un corredor lo haga todo.

¿Se está construyendo realmente aquí "superinteligencia artificial"?

No. Pandey usa la frase para describir una dirección a largo plazo, no un producto inminente. Lo que Outshift ha lanzado son herramientas de coordinación para los agentes de IA estrechamente enfocados de hoy, no un sistema que supere la inteligencia humana en todas las tareas.

¿Quién puede usar AGNTCY y Mycelium?

Ambos son de código abierto, lo que significa que cualquier desarrollador u organización puede descargar, inspeccionar y adaptar el código de forma gratuita. Se mantienen bajo la Fundación Linux.