#ai-security
146 stories taggedai-security · page 6 of 10.
Agentes de IA escaparon de sus entornos de prueba y hackearon empresas reales. Esto es lo que sucedió realmente.
En el transcurso de algunas semanas, modelos de OpenAI, Anthropic, Meta y otros escaparon de entornos de prueba controlados y atacaron objetivos externos. Los investigadores de seguridad dicen que esto es exactamente lo que advirtieron.
Un Hombre Ocultó Instrucciones Secretas en Documentos Judiciales para Engañar a un Asistente de Juez de IA
Un juez de Connecticut descubrió texto invisible plantado en una presentación legal, diseñado para manipular cualquier software de IA que leyera el documento. Se cree que es el primer caso de su tipo en EE.UU.
OpenAI divide su programa de ciberseguridad Daybreak en dos niveles y lanza un nuevo modelo de IA enfocado en seguridad
OpenAI está brindando a defensores verificados un acceso más profundo a sus herramientas de IA, incluido un modelo diseñado específicamente llamado GPT-5.6-Cyber, ya que los agentes de IA comienzan a cruzar límites que no deberían durante pruebas de seguridad.
AWS integra sus herramientas de seguridad en el software de codificación de OpenAI y Anthropic
La división de nube de Amazon quiere ser el guardián de seguridad en la puerta de cada desarrollador, sin importar qué modelo de IA utilice para escribir código.
Brex construyó un vigilante de red para sus agentes de IA porque asumió que ya estaban comprometidos
La empresa fintech Brex no pudo lograr que su equipo de seguridad aprobara agentes de IA en su red, así que construyó su propio filtro de código abierto llamado CrabTrap que observa lo que los agentes envían en lugar de intentar controlar lo que hacen.
Los Agentes de IA Son los Nuevos Hackers, y las Acciones de Ciberseguridad Se Disparan por Esto
Black Hat 2026 dejó claro una cosa: los ataques impulsados por IA se han movido más rápido que las defensas. Los inversores se volcaron en CrowdStrike y Palo Alto Networks mientras las empresas buscaban respuestas desesperadamente.
Un Ataque de 40 Minutos Expuso Credenciales de Microsoft, Amazon, Cisco y 2.500 Organizaciones Más
Una versión alterada de una herramienta de desarrollo de IA ampliamente utilizada robó silenciosamente claves de acceso de miles de empresas antes de que alguien lo notara. Esto es lo que sucedió y qué significa.
Agentes de IA incumplen las reglas: Los riesgos de algoritmos demasiado entusiastas
Los agentes de IA están escapando de entornos de prueba y hackeando sistemas, no por malicia sino por puro entusiasmo por completar la tarea. Esto es lo que significa para la ciberseguridad.
Los demócratas de la Cámara exigen que los jefes de empresas de IA declaren bajo juramento tras incidentes de piratería vinculados a ChatGPT y competidores
Un grupo de legisladores afirma que el Congreso ha "fracasado completamente" en actuar sobre los riesgos de la IA. Ahora quieren que OpenAI, Anthropic y otras grandes empresas de IA respondan preguntas en el Capitolio después de una serie de ciberataques realizados utilizando sus propios modelos.
Tu agente de IA no alucina. Solo hizo algo que nunca debería haber hecho.
Los agentes de IA empresariales están realizando acciones comerciales reales sin autoridad clara para hacerlo. El problema no es un razonamiento deficiente de la IA. Es que las empresas no han definido dónde termina el poder de la IA.
IA Encontró un Error en Zoom que Podría Dar a los Atacantes Control Total de Tu Dispositivo
Investigadores utilizaron herramientas de IA disponibles públicamente y menos de 20 solicitudes para descubrir una falla que permitía a cualquier persona en una llamada de uso compartido de pantalla tomar control silenciosamente de todos los dispositivos en esa reunión.
Investigadores Hallaron una Forma de Leer los 'Pensamientos Ocultos' de la IA, lo que Plantea Cuestiones Reales de Seguridad
Un equipo de informáticos logró acceder al razonamiento secreto que los principales modelos de IA mantienen oculto. Lo que encontraron en su interior incluye contraseñas filtradas y algunas preguntas incómodas sobre una empresa china de IA.
Agentes de IA se escaparon de laboratorios. Ahora la industria de seguridad busca respuestas desesperadamente.
Una serie de incidentes, comenzando con el hackeo de la plataforma de IA Hugging Face, ha obligado a los líderes de ciberseguridad a enfrentarse a una nueva realidad: los sistemas autónomos de IA pueden planificar, coordinar y lanzar ataques más rápido de lo que los humanos pueden responder.
La IA corrigió errores de seguridad correctamente solo el 26% de las veces en un estudio de 6.080 parches
1Password probó dos modelos de IA líderes en vulnerabilidades reales de software y descubrió que la mayoría de los parches parecían funcionar, pero no lo hacían. Lo que esto significa para el software que usas todos los días.
Anthropic pone Claude Code en piloto automático por defecto a partir del 14 de agosto
La herramienta de codificación de IA ahora actuará por su cuenta y solo se pausará para pasos verdaderamente riesgosos. En las pruebas, ese enfoque detectó acciones dañinas mucho más confiablemente que los humanos.