#prompt injection
17 stories taggedprompt injection.
AI Security Risks: Prompt Injection Tops OWASP's 2025 List
The latest OWASP list reveals real-world vulnerabilities in AI applications, spotlighting prompt injection and excessive agency as top concerns.
Hidden Threats in Your AI Assistant: What You Need to Know
AI assistants can be hijacked with hidden instructions in everyday documents, posing risks to businesses.
ChatGPT Trick Could Secretly Leak Your Gmail Data
Researchers show how a hidden message can turn AI chat into a data thief.
Meta lanza Muse, su primer agente de IA personal, con arquitectura de privacidad diseñada para mantener tus datos alejados de la web
Muse puede reservar viajes, enviar correos electrónicos y comprar cosas en tu nombre. Meta apuesta a que una nueva capa de seguridad llamada Secure VM convencerá a los usuarios de confiar en la empresa con ese tipo de acceso.
Spammers Are Now Using a Trick Designed to Attack AI Chatbots
A technique called ASCII smuggling hides invisible instructions inside emails. Your filter probably wasn't built to catch it.
AI Security Startup HiddenLayer Raises $100 Million as Companies Race to Protect Their AI Systems
Annual revenue grew more than tenfold in a year. Now HiddenLayer wants to be the security guard standing between your business and the people trying to hijack its AI.
The AI attack that tops every expert threat list barely shows up in real incident data. Here is why that gap matters.
Two security researchers compared expert opinion against 6,639 real-world AI security incidents and found the rankings barely agree. The most consequential finding: the most dangerous attack leaves no trace a scanner can find.
Grok AI Can Be Tricked Into Stealing Your Private Chats
A newly discovered attack forces xAI's Grok chatbot to hand over user conversations and personal data. Here is what it means for anyone who uses AI assistants at work or at home.
AI secuestrado, falsos arreglos y un error en herramienta de desarrolladores: resumen de seguridad de esta semana
Un lote de aproximadamente veinte amenazas menores, incluyendo un nuevo ataque a agentes de IA, un fraude que oculta malware dentro de una cadena de bloques pública, y una falla en una herramienta de codificación popular, muestra hacia dónde están presionando ahora los atacantes.
Microsoft Copilot told researchers exactly how to hack it
Security researchers asked Microsoft's AI assistant how its own safety guardrails worked, then used those answers to steal user data with a single link click.
Un Hombre Ocultó Instrucciones Secretas en Documentos Judiciales para Engañar a un Asistente de Juez de IA
Un juez de Connecticut descubrió texto invisible plantado en una presentación legal, diseñado para manipular cualquier software de IA que leyera el documento. Se cree que es el primer caso de su tipo en EE.UU.
Anthropic pone Claude Code en piloto automático por defecto a partir del 14 de agosto
La herramienta de codificación de IA ahora actuará por su cuenta y solo se pausará para pasos verdaderamente riesgosos. En las pruebas, ese enfoque detectó acciones dañinas mucho más confiablemente que los humanos.
Los navegadores con IA pueden ser engañados para enviar spam a tus contactos de WhatsApp y añadir artículos a tu carrito de Amazon
Investigadores de seguridad encontraron aproximadamente 20 vulnerabilidades en navegadores mejorados con IA de OpenAI, Google, Anthropic y otros. Las peores permiten a los hackers convertir tu navegador en una máquina de phishing.
Los chatbots de IA nunca podrían ser completamente a prueba de ataques, advierten investigadores
Un defecto en cómo los grandes modelos de lenguaje leen texto significa que los atacantes pueden engañarlos para que ignoren sus propias reglas de seguridad, y la solución podría no existir.
OpenAI creó una IA que hackea sus propios modelos para hacerlos más seguros
GPT-Red es un sistema automatizado de pruebas de seguridad que ataca los chatbots propios de OpenAI para encontrar vulnerabilidades antes de que lo hagan atacantes reales. Ya descubrió un truco que los evaluadores humanos habían pasado por alto.