Andon Labs Dirige Negocios Reales con Gerentes de IA y Obtiene Principalmente Sándwiches de Queso

Puntos clave

• Andon Labs, una empresa de seguridad de IA con sede en San Francisco, abrió negocios físicos dirigidos por agentes de IA para probar cómo la IA maneja la gestión en el mundo real.
• Un gerente de café basado en Google Gemini gastó en exceso en ingredientes frescos que se echaron a perder; su reemplazo de OpenAI GPT se corrigió demasiado y redujo el menú a sándwiches de queso.
• El gerente de tienda de IA de Andon, Luna, confunde repetidamente una cubierta eléctrica incorporada con un posavasos suelto y le pide a un empleado humano que lo retire.
• Sayash Kapoor, investigador de IA de Princeton, dice que la capacidad de IA está superando la confiabilidad: la IA a menudo puede completar una tarea una vez pero no se puede confiar en que lo haga consistentemente.
• Andon dice que trabaja con Anthropic, Google DeepMind, OpenAI y xAI en investigación y evaluaciones extraídas de estos experimentos.

Cuando el gerente de IA de una tienda de ropa y artículos para el hogar de San Francisco ve lo que cree es un posavasos suelto en el piso, envía un mensaje pidiendo a un empleado que lo retire. El empleado sabe que es una cubierta eléctrica fija. Se lo ha dicho a la IA antes. La IA sigue preguntando.

Ese bucle, pequeño y casi cómico, es exactamente lo que Andon Labs está buscando.

Andon Labs dirige negocios con personal de agentes de IA, donde un "agente de IA" significa software construido sobre tecnología de modelo de lenguaje grande, del mismo tipo que subyace a ChatGPT y Claude, configurado para tomar decisiones y realizar acciones a lo largo del tiempo con entrada humana mínima. La empresa observa qué se rompe y qué los modelos simplemente no pueden manejar.

¿Qué salió mal en el café?

Los fracasos fueron específicos. En Andon Café en Estocolmo, el primer gerente de IA, construido en el modelo Gemini de Google, gastó generosamente en ingredientes frescos. Gran parte de la comida se echó a perder antes de ser utilizada. Cuando Andon cambió por un modelo GPT de OpenAI, el nuevo gerente se fue hacia el otro extremo: dejó de pedir cualquier cosa perecedera e reconstruyó silenciosamente el menú alrededor de sándwiches de queso y queso de larga duración. Como le dijo a IEEE Spectrum el cofundador de Andon, Lukas Petersson, cualquier persona sabría que los sándwiches de queso no se venderían en un barrio de moda de Estocolmo.

La lección no es que un modelo sea mejor. Completar una tarea, hacer un pedido de comida, es diferente de administrar de manera confiable un negocio durante semanas y meses. Nuestro reportaje anterior sobre confiabilidad de IA encontró un patrón relacionado: una encuesta de julio de 2026 de 101 empresas mostró que los fracasos de IA a menudo solo se hacen visibles una vez que se implementa un monitoreo adecuado.

Sayash Kapoor, investigador de IA en la Universidad de Princeton que estudia este tipo de pruebas en el mundo real, expresa la distinción claramente. "La confiabilidad ha mejorado mucho más lentamente que la capacidad", dice. Una IA puede hacer un pedido de pan. Aún no se puede confiar en que continúe haciendo lo sensato turno tras turno sin que alguien la observe.

¿Deberían las personas comunes preocuparse por los gerentes de IA?

No de la manera en que podrías pensar. El empleado de tienda de Andon, Felix Carson, describe a Luna como una "gerenta decente" que maneja comunicaciones con proveedores y seguimiento de entregas. Pero Carson ignora algunas instrucciones de Luna cuando seguirlas significaría dejar el piso de ventas vacío. El bucle de la cubierta eléctrica no se ha resuelto.

Kapoor señala que los datos iniciales de clientes de Andon Market son "decididamente negativos". Las personas no están entusiasmadas por comprar en un negocio dirigido por IA. Esa fricción social puede ser una barrera más grande para la adopción de IA que cualquier resultado de referencia.

Petersson es franco sobre los límites científicos. Describe los experimentos físicos como "ciencia débil" en el mejor de los casos, útiles principalmente para revelar comportamientos inesperados que Andon luego puede recrear en simulaciones controladas.

Qué tener en cuenta

Los resultados de Andon apuntan a una pregunta que vale la pena hacer antes de cualquier pregunta sobre capacidad: ¿cómo se comportará el sistema en su peor día, no en su mejor día? Un sistema que funciona brillantemente una vez no es lo mismo que uno en el que puedas confiar. Pídele al proveedor datos de fallas, no solo videos de demostración. Una máquina que sigue malinterpretando el mismo objeto fijo en el piso no está mostrando una peculiaridad. Esa es la señal.