Los Investigadores Están Utilizando el Arma de IA Favorita de los Hackers en su Contra

Puntos clave

• Los investigadores de Tracebit publicaron el lunes hallazgos que demuestran que las inyecciones de indicaciones pueden utilizarse como una trampa defensiva contra agentes de piratería de IA.
• La técnica funciona colocando instrucciones ocultas junto a contraseñas y claves criptográficas almacenadas en Amazon Web Services (AWS), la plataforma de computación en la nube de Amazon.
• Las instrucciones ocultas engañan a una IA atacante para que intente algo que sus propias reglas de seguridad prohíben, lo que la detiene.
• No se requiere parche ni actualización de software en el lado del atacante para que esto funcione; las barreras de seguridad integradas de la IA hacen el trabajo pesado.

Durante años, los atacantes han utilizado un truco llamado inyección de indicaciones para secuestrar asistentes de IA. Una inyección de indicaciones es una instrucción oculta enterrada dentro de contenido ordinario, como un correo electrónico o una invitación de calendario, que le dice a una IA que haga algo que su propietario nunca tuvo la intención. La IA lee la instrucción, la trata como legítima y la sigue. Los datos sensibles se filtran. Se causa daño.

Ahora una empresa de seguridad llamada Tracebit ha invertido el truco.

El lunes, los investigadores de Tracebit informaron, cubierto primero por Ars Technica AI, que habían encontrado una forma de utilizar inyecciones de indicaciones como una trampa en lugar de un arma. La idea es simple. Colocas una instrucción oculta cuidadosamente redactada justo al lado de las contraseñas, claves criptográficas (largas cadenas de caracteres que cierran y abren datos cifrados) y otros secretos almacenados en AWS. Cuando un agente de piratería impulsado por IA, software que puede llevar a cabo ataques de múltiples pasos por sí solo, penetra y lee esas credenciales, también lee tu instrucción.

Esa instrucción le dice a la IA atacante que haga algo que sus desarrolladores han prohibido específicamente.

Las empresas de IA construyen lo que se llaman salvaguardias en sus modelos. Piensa en las salvaguardias como una conciencia incorporada: un conjunto de reglas que impide que la IA cruce ciertas líneas, como ayudar a alguien a causar daño. Cuando la IA atrapada intenta seguir el comando inyectado, se encuentra con una de esas líneas. Se detiene. El ataque termina.

Es una técnica elegante de defensa. La herramienta del atacante se convierte en la defensa.

El enfoque pertenece a una categoría más amplia llamada honeytokens o canary tokens, credenciales falsas dejadas en lugares donde es probable que busquen los atacantes. Si alguien las toca, sabes que hay una brecha en marcha. La versión de Tracebit hace el mismo trabajo pero también disrumpe activamente al atacante en lugar de solo hacer sonar una alarma.

¿Esto significa que el piratería de IA está resuelto?

No. Esta técnica funciona específicamente contra agentes de IA que dependen de modelos de lenguaje grande, la tecnología detrás de herramientas como ChatGPT, porque esos modelos tienen reglas de seguridad integradas que pueden activarse. Un atacante humano, o una IA simplificada sin salvaguardias, ignoraría completamente la instrucción inyectada. El hallazgo es prometedor, pero es una capa de defensa, no una respuesta completa.

Para las organizaciones que almacenan credenciales sensibles en entornos de nube, la conclusión práctica vale la pena notar: incluso tus datos falsos ahora pueden contraatacar.