Una Conversación de IA Perfecta Aún Puede Significar un Producto Roto, Advierten Líderes de la Industria

Puntos clave

• Harrison Chase, CEO de LangChain, dijo en VB Transform 2026 que muchos equipos sufren de "parálisis de evaluación" y nunca lanzan porque persiguen un conjunto de pruebas perfecto antes del lanzamiento.
• Hui Zhang, CTO de Conviva, mostró cómo una única conversación de IA puede tener una puntuación alta de forma aislada mientras oculta un problema de categoría completa visible solo al comparar miles de usuarios contra una línea de base.
• LangChain ajustó su propio modelo de IA pequeño para detectar errores percibidos por el usuario a un costo 10 a 100 veces menor que usar Claude Sonnet, un modelo de IA comercial líder.
• Los tres ejecutivos acordaron que la aprobación humana sigue siendo esencial en campos como legal y sanidad, incluso cuando la verificación automatizada se amplía.

Imagina un cliente preguntando a un asistente de compras de IA sobre zapatillas de correr. El asistente hace algunas preguntas, el cliente compra un par, la conversación termina. Puntúa esa interacción por sí sola: se ve bien.

Ahora mira el panorama completo. En miles de conversaciones similares, ese asistente formuló preguntas aclaratorias tres veces más de lo normal para esa categoría de zapatos, y los clientes completaron sus compras fuera del chat a cinco veces la tasa habitual. Algo no funciona. Nunca lo verías comprobando una conversación a la vez.

Ese era el argumento central en VB Transform 2026, informado por primera vez por VentureBeat, donde líderes de tres empresas de infraestructura de IA describieron cómo los equipos empresariales están evaluando mal los agentes. Nuestro artículo del 14 de julio "Los agentes de IA se están utilizando en más decisiones de las que las empresas pueden realmente verificar" encontró que la mitad de las empresas ya había lanzado un agente que pasó pruebas internas y luego rompió algo para un cliente real. Este panel explica por qué.

¿Están los equipos midiendo lo correcto?

La mayoría no lo está. Hui Zhang, CTO de Conviva, una empresa de análisis de transmisión, llama al enfoque mejor "análisis contrastivo": comparar un grupo de usuarios contra una línea de base histórica en lugar de puntuar registros de chat individuales. Las puntuaciones individuales se ven bien. Los patrones de población revelan el error real. Zhang también señaló que la industria carece completamente de una segunda fuente de datos: qué sucede antes, entre y después de una conversación, no solo la conversación en sí.

Harrison Chase, CEO de LangChain, la empresa detrás de un marco popular para construir agentes de IA (software que puede realizar tareas multietapa de forma autónoma), nombró una segunda trampa. Los equipos construyen suites de pruebas exhaustivas antes del lanzamiento y luego nunca lanzan.

"A veces vemos equipos que tienen casi parálisis de evaluación", dijo Chase. "Los mejores equipos lanzan e iteran".

Su enfoque: tratar los criterios de evaluación como una especificación de producto viva que se actualiza a medida que surgen problemas reales. "Las evaluaciones son como el nuevo PRD", dijo, refiriéndose a un documento de requisitos de producto, la especificación estándar de lo que debe hacer una aplicación.

Emmanuel Turlay, director de ingeniería en CoreWeave, un proveedor de nube de GPU (las GPU son chips especializados que manejan el cálculo pesado de IA), golpeó la misma pared desde un ángulo diferente. Persiguió el 100 por ciento de cobertura de pruebas y aún así lanzó errores. Su solución: establecer primero un monitoreo amplio siempre activo, dejar que los fallos reales te enseñen qué pruebas escribir a continuación.

Una vez que surge una categoría de problema, el costo se convierte en la pregunta. La regla de Turlay es comenzar con el modelo más capaz para demostrar que algo es solucionable, luego pasar a modelos más pequeños y económicos para verificaciones rutinarias. LangChain hizo exactamente eso, ajustando un modelo Qwen (una familia de modelos de código abierto de Alibaba) para detectar momentos en que los usuarios sintieron que el agente cometió un error. Coincidió con la precisión de Claude Sonnet a un costo 10 a 100 veces menor. Chase señaló que muchas protecciones ni siquiera necesitan un modelo: el código simple de coincidencia de patrones llamado regex maneja muchas verificaciones a un costo casi nulo.

¿Deberían los humanos seguir en el bucle?

Sí, y por razones más allá de la precaución. Turlay se basó en su trabajo anterior en una empresa de automóviles autónomos: incluso después de comprimir el ciclo de reentrenamiento a dos semanas, una persona aún tenía que aprobar el modelo antes de que entrara en el vehículo. La misma lógica de responsabilidad se aplica a los agentes que manejan decisiones financieras o médicas.

Chase fue más allá. La verificación humana no es solo una red de seguridad. "El humano en el bucle es realmente importante para generar confianza en cómo funcionan estos sistemas de agentes, y también es realmente importante para la memoria y el aprendizaje de los sistemas", dijo. Sin esa retroalimentación, el agente no tiene nada en qué mejorar.