AI secuestrado, falsos arreglos y un error en herramienta de desarrolladores: resumen de seguridad de esta semana

Puntos clave

• Una técnica recién nombrada llamada GhostJacking engaña a los agentes de IA, programas de software que toman acciones en su nombre, para que sigan instrucciones ocultas dentro del contenido que leen.
• El fraude ClickFix, que engaña a los usuarios para que peguen comandos maliciosos en sus propias computadoras, ahora oculta su carga dentro de la cadena de bloques de Ethereum, haciendo que el ataque sea mucho más difícil de cerrar.
• Una falla en la versión de línea de comandos de Cursor, un editor de código asistido por IA ampliamente utilizado por desarrolladores de software, podría permitir a un atacante ejecutar código sin conocimiento del desarrollador.
• Ningún elemento individual esta semana es un incidente importante, pero en conjunto muestran a los atacantes penetrando más profundamente en herramientas de IA y software de desarrollador.
• El riesgo de ClickFix aplica a cualquiera que navegue por la web, no solo al personal técnico.

Algunas semanas de seguridad te traen una historia enorme. Esta no es esa semana. Según lo informado por primera vez por ThreatVectr, The Hacker News compiló aproximadamente veinte incidentes menores en un único boletín, y el valor está en leerlos uno al lado del otro. Individualmente, ninguno sería titular de un noticiario. En conjunto, señalan en la misma dirección: atacantes moviéndose hacia herramientas de IA, software de desarrolladores, y fraudes que logran que la víctima realice el paso peligroso por sí misma.

¿Cuáles son las tres amenazas que vale la pena conocer?

Se dirigen a personas muy diferentes, por lo que importa cuál aplica a ti.

La primera es GhostJacking. Un agente de IA es un programa que actúa en tu nombre: reservar citas, navegar páginas, mover archivos, incluso enviar mensajes. GhostJacking planta instrucciones dentro del contenido que el agente lee, una página web, un documento, un correo electrónico. El agente confunde esas instrucciones con tareas legítimas y las ejecuta. Es un ataque funcional basado en inyección de indicaciones, una clase de vulnerabilidad sobre la que todas las grandes empresas de IA han sido advertidas durante años.

La segunda es EtherHiding combinado con ClickFix. ClickFix es un fraude dirigido a consumidores con un truco simple: un mensaje de error falso te dice que abras la herramienta de comandos de tu computadora y pegues un "arreglo". El arreglo es malware. EtherHiding hace que esta versión sea más desagradable. El código malicioso se almacena dentro de la cadena de bloques de Ethereum, el libro mayor público y descentralizado detrás de una criptomoneda popular, por lo que los equipos de seguridad simplemente no pueden derribar la página. Ninguna empresa única controla ese libro mayor.

La tercera es un error en la herramienta de línea de comandos de Cursor. Cursor es un editor de código asistido por IA que muchos desarrolladores profesionales ahora usan todos los días. Hemos seguido a Cursor de cerca: nuestra noticia del 15 de agosto informó sobre la adquisición de 60 mil millones de dólares de SpaceX de la empresa, y apenas la semana pasada cubrimos su nueva plataforma de alojamiento de código. Una falla en su versión de línea de comandos podría permitir a un atacante ejecutar código que el desarrollador nunca solicitó. Si escribes software para vivir y usas Cursor, actualízalo ahora.

¿Deberían preocuparse las personas ordinarias?

Para la mayoría de los lectores, solo un elemento exige acción: aprender a identificar ClickFix.

Si un sitio web te dice que abras una terminal, el cuadro Ejecutar de Windows, o cualquier ventana de comandos y pegues algo, cierra la pestaña inmediatamente. Los sitios web legítimos no hacen esto. Los mensajes de error reales de tu sistema operativo nunca te piden que copies un arreglo de una página web. Ese es el fraude completo, y conocerlo te hace inmune.

El riesgo de GhostJacking crece a medida que los asistentes de IA ganan más poder para actuar en tu nombre. Por ahora, trata cualquier herramienta de IA que pueda hacer clic o comprar como lo harías con un empleado recién llegado: observa lo que hace, limita lo que puede acceder, y no le des las llaves de todo el primer día.

¿Qué sucede después?

Los equipos de seguridad deben tratar este boletín como un indicador de dirección, no como una lista de verificación. Los ataques a agentes de IA y cadenas de herramientas de desarrolladores están ganando impulso. Las defensas construidas solo para un atacante humano en un teclado ya están quedando rezagadas.

Actualiza Cursor. Registra cada acción que realizan tus agentes de IA y restringe lo que pueden ejecutar. Y recuerda la regla de ClickFix.

Preguntas frecuentes

¿Qué es la inyección de indicaciones, y GhostJacking es lo mismo?

La inyección de indicaciones es cuando instrucciones ocultas dentro de texto o una página web secuestran un modelo de IA, diciéndole que haga algo que su usuario nunca tuvo la intención de hacer. GhostJacking es un ataque funcional que utiliza esta técnica contra agentes de IA, el tipo de software que puede tomar acciones como hacer clic o enviar mensajes en tu nombre.

¿Cómo sé si un sitio web está ejecutando un fraude de ClickFix?

La señal es un elemento emergente o cuadro de error que te pide que copies un texto y lo pegues en una ventana de comandos o el cuadro Ejecutar de Windows. Ninguna página de soporte de sitio web genuino te pedirá hacer esto. Cierra la pestaña y no pegues nada.