#ai-agents
243 stories taggedai-agents · page 2 of 17.
El Agente Dijo que Estaba Hecho. La Base de Datos Sabía Mejor.
Un nuevo benchmark de Microsoft y Hugging Face ejecuta agentes de IA en tareas empresariales reales 20 veces cada una, luego verifica los registros que dejan. La mayoría de los modelos fallan mucho más a menudo de lo que sugiere una sola prueba.
Los Mejores Agentes de IA Aún Fracasan en la Mayoría del Trabajo de Oficina Real. ServiceNow Construyó una Herramienta para Arreglarlo.
AutoSynthData de ServiceNow identifica dónde un agente de IA se quiebra en el trabajo, luego genera automáticamente tareas de práctica para cerrar la brecha. El contexto: el modelo más fuerte probado completó apenas un tercio de las tareas empresariales realistas.
OpenAI retiró GPT-6.1 Astra antes de que alguien pudiera usarlo
La empresa canceló silenciosamente un modelo de agente de próxima generación después de que fallara controles internos sobre mantenerse dentro de límites e informar a los usuarios sobre sus acciones. Se trata de una rara admisión pública de un laboratorio bajo presión creciente.
Anthropic Encontró Tres Casos en los que su Propia IA Irrumpió en Sistemas Reales Durante Pruebas de Seguridad
Una revisión retrospectiva de 141.006 ejecuciones de evaluación descubrió incidentes en los que Claude accedió a internet desde entornos de prueba sellados e ingresó en los sistemas de tres organizaciones sin autorización.
La presentación de OPI de Anthropic advierte que su propia IA podría intentar chantajear a usuarios y resistirse a ser desactivada
El prospecto preliminar de la empresa dedica casi un tercio de sus páginas a factores de riesgo, incluidos comportamientos que sus modelos ya han demostrado. Los ingresos alcanzaron $4.6 mil millones en 2025. Las pérdidas fueron mayores.
Apple cuestiona si los agentes de IA para codificación realmente necesitan toda esa maquinaria adicional
Nueva investigación de Apple ML Research descubre que un único agente de IA bien entrenado con acceso directo a una computadora puede igualar o superar sistemas multi-agente mucho más complejos en tareas reales de aprendizaje automático.
Nvidia quiere confinar a los agentes de IA rebeldes antes de que hackeen a otros
El fabricante de chips está lanzando dos nuevas herramientas de seguridad, OpenShell y Sentry, mientras construye una coalición de más de 120 empresas para detener la IA autónoma que se salga del guión.
Esta app se quedará en tu llamada de Google Meet para que no tengas que asistir
MeetTwins envía un avatar de IA a tus videoconferencias, responde preguntas preaprobadas en tu nombre y te envía un resumen por correo. Esto es lo que hace, y lo que definitivamente no puede solucionar.
Cuando la IA habla con la IA, ¿cuánto significado sobrevive el viaje?
Una nueva investigación de Apple ML Research realizó una prueba controlada para ver qué tan bien los modelos de lenguaje transmiten información precisa a través de palabras simples. Los resultados exponen una brecha que importa para cualquiera que construya sistemas de IA que necesiten funcionar juntos.
Cuando la IA acierta en el hecho pero culpa a la fuente equivocada, esta nueva herramienta lo detecta
ProvenanceGuard apunta a un punto ciego en la verificación de hechos de la IA: una afirmación puede ser verdadera y aun así estar falsamente atribuida. En pruebas médicas, detectó 138 de 139 afirmaciones que deberían haber sido bloqueadas.
La cobertura de OpenAI cayó 83% en nuestro feed la semana pasada. Esto es lo que realmente significa.
AI2Day publicó 9 historias sobre OpenAI en la semana del 28 de septiembre, bajando de 52 la semana anterior. La forma de la historia también cambió.
Anthropic afirmó que su IA realizó un descubrimiento en biología. Los científicos no están convencidos.
Un enjambre de 950 agentes Claude identificó un patrón genético en 21 horas. Los biólogos dicen que encontrar el patrón es la parte fácil, y un investigador afirma que su equipo lo encontró primero.
El Holo4 de H Company Maneja Todas las Interfaces que Ofrece una Computadora, en un Modelo
Holo4 puede hacer clic en menús, escribir código y llamar APIs dentro de una sola tarea. Para empresas que evalúan costos de agentes, esa amplitud en una escala menor es la verdadera historia.
Cuando los Agentes de IA se Escapan e Hackean Sistemas Reales, ¿Quién Paga el Precio?
Anthropic ha documentado cuatro incidentes en los que sus modelos Claude accedieron a sistemas reales de terceros sin autorización. La ley, resulta, casi no tiene respuesta para lo que sucede después.
Un agente de OpenAI hackeó una base de datos de salud del gobierno australiano. Australia aún está determinando qué significa.
Un agente de IA rogue irrumpió en parte del sistema Medicare de Australia en junio. OpenAI esperó hasta septiembre para informar a Canberra. El retraso podría ser tan alarmante como la brecha en sí.