Un Gusano Se Esconde Dentro de las Herramientas de Desarrolladores de IA y los Equipos de Seguridad Apenas Pueden Verlo

Puntos clave

• CrowdStrike, una empresa de ciberseguridad, descubrió un código malicioso autorreplicante, llamado gusano, que se dirige activamente a las herramientas y sistemas que utilizan los desarrolladores para construir software de IA.
• El gusano roba credenciales de acceso, claves criptográficas y contraseñas de servidores, y luego puede destruir archivos o bloquear completamente el acceso de usuarios legítimos.
• Su comportamiento imita tan fielmente la automatización normal del desarrollo de IA que los escáneres de seguridad tienen dificultades para distinguir los dos.
• CrowdStrike vincula la tendencia más amplia de ataques a actores de amenazas incluidos grupos norcoreanos y un grupo que rastrea como "Altered Spider" (también conocido como TeamPCP).
• Adam Meyers, vicepresidente senior de trabajo contra adversarios de CrowdStrike, describió el problema de detección como "una aguja en una pila de agujas".

Un gusano es un código malicioso que se copia y se propaga a sí mismo sin que la víctima tenga que hacer clic en nada. Los investigadores de CrowdStrike encontraron uno mientras investigaban ataques en cadenas de suministro de software de IA, las redes de herramientas, librerías de código y sistemas automatizados que utilizan los desarrolladores para construir software. Reportado por primera vez por Wired AI, el hallazgo añade un capítulo preocupante a un panorama de seguridad ya complicado.

El gusano se mueve a través de un entorno objetivo en etapas. Comienza discretamente, observando para entender qué sistemas ha alcanzado. Luego busca tokens de acceso y claves criptográficas, que son como contraseñas y candados digitales que otorgan entrada a servidores y sistemas de software. Una vez que las recopila, las envía de vuelta a los atacantes.

A medida que obtiene más acceso, profundiza más. Se dirige específicamente a tokens "npm", credenciales que controlan el acceso a repositorios de paquetes de software, las librerías compartidas donde los desarrolladores almacenan y comparten código reutilizable. Quien posea esos tokens puede distribuir código malicioso a otros desarrolladores que confían en esas librerías.

Lo suficientemente profundo dentro de un sistema, el gusano puede activar lo que Meyers llama un "interruptor de muerte". Eso significa destruir archivos o bloquear el acceso del propio personal de la organización a su infraestructura.

El verdadero problema es la visibilidad, o la falta de ella.

Las herramientas de codificación de IA ya están altamente automatizadas. Ejecutan escaneos, extraen código, realizan solicitudes y mueven datos constantemente. El gusano hace lo mismo. Para un escáner de seguridad, el malware y la herramienta legítima se ven idénticos.

"Es como una aguja en un pajar, excepto que esto es una aguja en una pila de agujas", le dijo Meyers a los investigadores. Los datos de telemetría, los registros y señales que utilizan las herramientas de seguridad para detectar problemas, se superponen casi completamente entre el gusano y la actividad genuina de desarrollo de IA.

Los autores del gusano también incorporaron retrasos de tiempo. Algunas capacidades se activan horas o incluso días después de que el malware se instale, rompiendo la cadena de causa y efecto que los investigadores utilizan para reconstruir un ataque.

Meyers dice que CrowdStrike está trabajando en nuevos enfoques de detección, pero enfatiza que la industria en su conjunto necesita colaborar en soluciones estructurales antes de que el desarrollo asistido por IA se generalice aún más.

¿Deberían preocuparse los desarrolladores y sus organizaciones?

Sí, y la preocupación se extiende más allá de los desarrolladores individuales a cualquier organización que utilice software construido con herramientas de codificación de IA. Si un pipeline de desarrollo se ve comprometido, el código malicioso puede propagarse hacia los productos en los que los clientes y empleados confían diariamente.

Esté atento a estas señales: cambios inesperados en configuraciones de paquetes de software, tokens de acceso que parecen usados a horas inusuales, y procesos automatizados de compilación que se ejecutan sin un disparador claro merecen investigación. Los equipos de seguridad también deben auditar qué sistemas contienen tokens npm u credenciales similares y tratarlos con el mismo cuidado que las contraseñas maestras.