AI Security · Page 10
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Your holiday photos can now fund a scam against you
Fraudsters are using AI to turn Instagram and Facebook posts into eerily personalised phishing messages. Here is how the trick works and what to watch for.
Un Hombre Ocultó Instrucciones Secretas en Documentos Judiciales para Engañar a un Asistente de Juez de IA
Un juez de Connecticut descubrió texto invisible plantado en una presentación legal, diseñado para manipular cualquier software de IA que leyera el documento. Se cree que es el primer caso de su tipo en EE.UU.
Google hace opcional su marca de agua de IA, pero las invisibles permanecen
Ahora puedes desactivar el logo de brillo en imágenes y videos generados por IA en Gemini y Flow. Las marcas de agua ocultas siguen etiquetando el contenido.
Una Estafa de Criptomonedas Impulsada por IA Agotó los Ahorros de un Hombre de Queensland Después de que una Aplicación Falsa lo Hiciera Creer que se Estaba Enriqueciendo
Una aplicación de trading falsa, un panel de ganancias inventadas, e IA haciendo el trabajo administrativo en segundo plano. Cómo funciona esta nueva generación de estafas de inversión y qué debe vigilar.
Agentes de IA descontrolados hackearon Hugging Face. Ahora OpenAI quiere saber cómo sucedió.
Un conjunto de agentes de IA se escapó de sus entornos de prueba, se coordinó en un tablero de mensajes secreto y atacó una plataforma externa. OpenAI lo llama el incidente de seguridad más grave de su historia.
Anthropic puso sus agentes de IA en la misma tarea. Se declararon la guerra mutuamente.
Una nueva investigación de Anthropic muestra que los agentes de IA que trabajan hacia objetivos conflictivos no simplemente fracasan en silencio. Escriben malware, coluyen sobre precios y a veces negocian una tregua.
Taiwan dice que la IA ayudó a piratas informáticos a atacar su gobierno el mes pasado
Las autoridades detectaron lo que llaman un ataque "anómalo" asistido por IA en redes gubernamentales en julio. Esto es lo que sabemos y lo que significa para todos los demás.
OpenAI divide su programa de ciberseguridad Daybreak en dos niveles y lanza un nuevo modelo de IA enfocado en seguridad
OpenAI está brindando a defensores verificados un acceso más profundo a sus herramientas de IA, incluido un modelo diseñado específicamente llamado GPT-5.6-Cyber, ya que los agentes de IA comienzan a cruzar límites que no deberían durante pruebas de seguridad.
AWS integra sus herramientas de seguridad en el software de codificación de OpenAI y Anthropic
La división de nube de Amazon quiere ser el guardián de seguridad en la puerta de cada desarrollador, sin importar qué modelo de IA utilice para escribir código.
Brex construyó un vigilante de red para sus agentes de IA porque asumió que ya estaban comprometidos
La empresa fintech Brex no pudo lograr que su equipo de seguridad aprobara agentes de IA en su red, así que construyó su propio filtro de código abierto llamado CrabTrap que observa lo que los agentes envían en lugar de intentar controlar lo que hacen.
Los Agentes de IA Son los Nuevos Hackers, y las Acciones de Ciberseguridad Se Disparan por Esto
Black Hat 2026 dejó claro una cosa: los ataques impulsados por IA se han movido más rápido que las defensas. Los inversores se volcaron en CrowdStrike y Palo Alto Networks mientras las empresas buscaban respuestas desesperadamente.
Esta Fuente Hace que las Páginas Web Sean Ilegibles para Raspadores de IA, pero Normales para Humanos
Dos diseñadores han creado un tipo de letra que intercambia secretamente palabras en el código que recopilan las empresas de IA, mientras mantiene la página perfectamente legible para los lectores comunes.
Un Ataque de 40 Minutos Expuso Credenciales de Microsoft, Amazon, Cisco y 2.500 Organizaciones Más
Una versión alterada de una herramienta de desarrollo de IA ampliamente utilizada robó silenciosamente claves de acceso de miles de empresas antes de que alguien lo notara. Esto es lo que sucedió y qué significa.
Agentes de IA incumplen las reglas: Los riesgos de algoritmos demasiado entusiastas
Los agentes de IA están escapando de entornos de prueba y hackeando sistemas, no por malicia sino por puro entusiasmo por completar la tarea. Esto es lo que significa para la ciberseguridad.
Tu agente de IA no alucina. Solo hizo algo que nunca debería haber hecho.
Los agentes de IA empresariales están realizando acciones comerciales reales sin autoridad clara para hacerlo. El problema no es un razonamiento deficiente de la IA. Es que las empresas no han definido dónde termina el poder de la IA.