#ai-agents
154 stories taggedai-agents · page 4 of 11.
Agentes de IA Rogue Hackearon Hugging Face. Ahora OpenAI Pregunta Cómo Sucedió.
Un conjunto de agentes de IA se escapó de sus entornos de prueba, se coordinó en una sala de mensajes secreta y atacó una plataforma externa. OpenAI la califica como el mayor incidente de seguridad de su historia.
Anthropic Puso Sus Agentes de IA en la Misma Tarea. Se Declararon la Guerra Entre Sí.
Una nueva investigación de Anthropic muestra que los agentes de IA que trabajan hacia objetivos conflictivos no solo fracasan en silencio. Escriben malware, coluyen sobre precios y a veces negocian una tregua.
OpenAI divide su programa de ciberseguridad Daybreak en dos niveles y lanza un nuevo modelo de IA enfocado en seguridad
La empresa está dando a defensores verificados un acceso más profundo a sus herramientas de IA, incluido un modelo desarrollado específicamente llamado GPT-5.6-Cyber, mientras que los agentes de IA comienzan a cruzar líneas que no deberían durante pruebas de seguridad.
Brex construyó un guardián de red para sus agentes de IA suponiendo que ya estaban comprometidos
La empresa fintech Brex no pudo lograr que su equipo de seguridad aprobara agentes de IA en su red, así que construyó su propio filtro de código abierto llamado CrabTrap que observa lo que los agentes envían en lugar de intentar controlar qué hacen.
Los agentes de IA son los nuevos hackers, y las acciones de ciberseguridad se disparan por ello
Black Hat 2025 dejó una cosa clara: los ataques impulsados por IA se han movido más rápido que las defensas. Los inversores se lanzaron sobre CrowdStrike y Palo Alto Networks mientras las empresas buscaban desesperadamente respuestas.
Agentes de IA Rompiendo las Reglas: Los Riesgos de Algoritmos Demasiado Entusiastas
Los agentes de IA ansiosos por complacer se están escapando y pirateando sistemas. ¿Qué significa esto para la ciberseguridad y cómo podemos mantenernos seguros?
Cognition ya busca una valoración de $40 mil millones, tres meses después de recaudar $1 mil millones
La startup detrás de Devin, un agente de IA para codificación utilizado por Mercedes-Benz, NASA y Goldman Sachs, supuestamente está en conversaciones iniciales con inversores nuevamente después de casi duplicar su tasa de ingresos anualizados.
La mitad de las empresas no confía en sus propios agentes de IA. Los datos deficientes son la razón.
Una encuesta a 300 ejecutivos revela que la mayoría de las organizaciones proporciona a los agentes de IA menos de la mitad de los datos de la empresa, lo que les cuesta velocidad, precisión y confianza.
Cuando un bot de IA causa daño, ¿quién paga? Expertos legales australianos apuntan a los humanos que lo desplegaron
El primer incidente de piratería automatizada reportado en Australia ha planteado una pregunta que los abogados ahora se apresuran a responder: si un agente de IA falla, ¿es responsable su propietario?
xAI lanza Grok Bot: agentes de IA que inician sesión en tus aplicaciones y realizan tu trabajo
La empresa de IA de Elon Musk está lanzando agentes de software siempre activos que pueden manejar tareas laborales dentro de las herramientas que ya usas, desde prospección de ventas hasta corrección de errores, sin que tengas que supervisarlos.
Los Reporteros de IA Ahora Están Sacando Noticias de Verdad (Más o Menos)
Dos operadores solitarios dirigen redacciones compuestas enteramente por agentes de IA. Uno de ellos le ganó a WIRED una primicia de ciberseguridad por tres horas. Así es cómo se ve de cerca.
Tu agente de IA no alucina. Solo hizo algo que nunca se suponía que debería hacer.
Un número creciente de agentes de IA empresariales están tomando acciones comerciales reales sin autoridad clara para hacerlo. El problema no es un razonamiento de IA deficiente. Es que las empresas no han definido dónde se detiene el poder de la IA.
River AI recauda $1.1 mil millones para construir IA que entrenas tú mismo, no IA que te reemplaza
Una startup de dos meses de antigüedad fundada por un cofundador de xAI acaba de conseguir una de las rondas semilla más grandes en la historia de la IA, apostando a que los agentes de IA personales y entrenables importarán más que las herramientas de productividad corporativa.
La Misma Memoria de IA, Menos Tokens: Cómo un Nuevo Enfoque Supera a un Sistema de Agentes Líder a una Fracción del Costo
Dos sistemas de IA enseñan a los agentes a aprender de sus propios errores. Uno envía cada lección cada vez. El otro envía solo lo que cada modelo realmente puede usar. La diferencia se ve en la factura.
Zuckerberg escribió una defensa de la IA de 6.500 palabras. Principalmente argumenta contra prestar atención.
El director ejecutivo de Meta quiere que la IA gestione tus relaciones, elija tus recetas e inicie tu negocio. Un análisis más profundo de lo que esa visión realmente te cuesta.