Un ver se cache dans les outils de développement d'IA et les équipes de sécurité le voient à peine

Points clés

• CrowdStrike, une entreprise de cybersécurité, a découvert un malware auto-réplicatif, appelé ver, ciblant activement les outils et systèmes que les développeurs utilisent pour construire des logiciels d'IA.
• Le ver vole les identifiants d'accès, les clés cryptographiques et les mots de passe des serveurs, puis peut détruire des fichiers ou bloquer complètement l'accès des utilisateurs légitimes.
• Son comportement est tellement similaire à l'automatisation normale du développement d'IA que les scanners de sécurité ont du mal à les différencier.
• CrowdStrike relie la tendance d'attaque plus large à des acteurs menaçants, notamment des groupes nord-coréens et un groupe qu'il suit sous le nom d'« Altered Spider » (aussi connu sous le nom de TeamPCP).
• Adam Meyers, vice-président senior du travail contre les adversaires chez CrowdStrike, a décrit le problème de détection comme « une aiguille dans une pile d'aiguilles ».

Un ver est un malware, c'est-à-dire un logiciel malveillant, qui se copie et se propage sans que la victime n'ait besoin de cliquer sur quoi que ce soit. Les chercheurs de CrowdStrike en ont découvert un lors d'enquêtes sur les attaques contre les chaînes d'approvisionnement logiciels d'IA, les réseaux d'outils, de bibliothèques de code et de systèmes automatisés que les développeurs utilisent pour construire des logiciels. Initialement signalé par Wired AI, cette découverte ajoute un chapitre inquiétant à un paysage de sécurité déjà compliqué.

Le ver se déplace dans un environnement cible par étapes. Il commence silencieusement, cherchant à comprendre les systèmes qu'il a atteints. Ensuite, il recherche les jetons d'accès et les clés cryptographiques, qui fonctionnent comme des mots de passe et des cadenas numériques donnant accès aux serveurs et aux systèmes logiciels. Une fois qu'il les récupère, il les renvoie aux attaquants.

À mesure qu'il gagne plus d'accès, il creuse plus profondément. Il cible spécifiquement les jetons « npm », les identifiants qui contrôlent l'accès aux référentiels de paquets logiciels, les bibliothèques partagées où les développeurs stockent et partagent du code réutilisable. Quiconque détient ces jetons peut pousser du code malveillant vers d'autres développeurs qui font confiance à ces bibliothèques.

Suffisamment profond dans un système, le ver peut activer ce que Meyers appelle un « interrupteur de mort ». Cela signifie détruire des fichiers ou bloquer l'accès de l'organisation à sa propre infrastructure.

Le vrai problème est la visibilité, ou plutôt son absence.

Les outils de codage d'IA sont déjà hautement automatisés. Ils exécutent des analyses, extraient du code, font des demandes et mélangent constamment des données. Le ver fait la même chose. Pour un scanner de sécurité, le malware et l'outil légitime se ressemblent parfaitement.

« C'est comme une aiguille dans une meule de foin, sauf que c'est une aiguille dans une pile d'aiguilles », a déclaré Meyers aux chercheurs. Les données de télémétrie, les journaux et les signaux que les outils de sécurité utilisent pour détecter les problèmes, se chevauchent presque complètement entre le ver et l'activité genuine du développement d'IA.

Les auteurs du ver ont également intégré des délais. Certaines capacités s'activent des heures ou même des jours après l'arrivée du malware, rompant la chaîne de causalité sur laquelle les enquêteurs s'appuient pour reconstruire une attaque.

Meyers dit que CrowdStrike travaille sur de nouvelles approches de détection, mais il souligne que l'industrie dans son ensemble doit collaborer sur des corrections structurelles avant que le développement assisté par l'IA ne devienne encore plus répandu.

Les développeurs et leurs organisations doivent-ils s'inquiéter ?

Oui, et cette préoccupation s'étend au-delà des développeurs individuels à toute organisation qui utilise des logiciels construits avec des outils de codage d'IA. Si un pipeline de développement est compromis, le code malveillant peut se propager en aval vers les produits sur lesquels les clients et les employés comptent quotidiennement.

Signes à surveiller : les modifications inattendues aux configurations de paquets logiciels, les jetons d'accès qui semblent être utilisés à des heures inhabituelles et les processus de construction automatisés qui s'exécutent sans déclencheur clair valent tous la peine d'être enquêtés. Les équipes de sécurité doivent également vérifier quels systèmes contiennent les jetons npm ou des identifiants similaires et les traiter avec le même soin que les mots de passe principaux.