#AI reliability
7 stories taggedAI reliability.
El Agente Dijo que Estaba Hecho. La Base de Datos Sabía Mejor.
Un nuevo benchmark de Microsoft y Hugging Face ejecuta agentes de IA en tareas empresariales reales 20 veces cada una, luego verifica los registros que dejan. La mayoría de los modelos fallan mucho más a menudo de lo que sugiere una sola prueba.
Andon Labs Dirige Negocios Reales con Gerentes de IA y Obtiene Principalmente Sándwiches de Queso
Una empresa de seguridad de IA de San Francisco entregó las llaves de un café, una tienda y una estación de radio a software tipo chatbot. Los resultados fueron instructivos, ocasionalmente absurdos y en gran medida no rentables.
AI agents at companies with safety guardrails fail more often, and that is actually the point
A July 2026 survey of 101 enterprises found that companies running a governed context layer report their AI agents giving confidently wrong answers at more than twice the rate of companies that have no such layer. The reason is not that the guardrails make things worse. It is that they make failures visible for the first time.
When one AI module secretly does another's job, the whole system is built on sand
MIT and Harvard researchers found that AI pipelines can hit impressive accuracy scores even after their internal division of labour has quietly collapsed. A new technique called Role Anchor aims to stop that from happening.
Los chatbots de IA están dando a los votantes respuestas incorrectas sobre qué partido apoyar
Un nuevo estudio probó herramientas de IA durante las elecciones parlamentarias de Hungría en 2025 y descubrió que recomendaban partidos que ni siquiera estaban en la boleta. Qué significa esto si alguna vez le pides a un chatbot consejos sobre votación.
Inside Shippy: Cómo se construyó un agente de IA para monitoreo oceánico para ser confiable, no solo inteligente
El equipo detrás de la IA marítima de Skylight explica por qué la confiabilidad, no la inteligencia pura, fue el problema de ingeniería más difícil que enfrentaron.
Se confía a los agentes de IA con más decisiones de las que las empresas pueden verificar realmente
Una nueva encuesta encuentra que la mitad de las empresas ya han implementado un agente de IA que pasó pruebas internas y luego causó problemas a un cliente real. Solo el 5% confía plenamente en las pruebas que se supone deben detectar esos fallos.