Un Verme si Nasconde negli Strumenti degli Sviluppatori di IA e i Team di Sicurezza Riescono a Malapena a Vederlo

Punti chiave

• CrowdStrike, un'azienda di cybersicurezza, ha scoperto un malware autoreplicante, chiamato verme, che sta attivamente colpendo gli strumenti e i sistemi che gli sviluppatori utilizzano per costruire software di IA.
• Il verme ruba credenziali di accesso, chiavi crittografiche e password dei server, quindi può distruggere file o escludere completamente gli utenti legittimi.
• Il suo comportamento rispecchia così da vicino l'automazione normale dello sviluppo di IA che gli scanner di sicurezza faticano a distinguere i due.
• CrowdStrike collega la più ampia tendenza di attacchi ad attori di minaccia tra cui gruppi nordcoreani e un gruppo che traccia come "Altered Spider" (noto anche come TeamPCP).
• Adam Meyers, vicepresidente senior di CrowdStrike per il lavoro di contrasto agli avversari, ha descritto il problema del rilevamento come "un ago in uno stack di aghi".

Un verme è un pezzo di malware, cioè software dannoso, che si copia e si diffonde da solo senza che la vittima debba fare clic su nulla. I ricercatori di CrowdStrike ne hanno trovato uno mentre indagavano su attacchi alle supply chain software di IA, le reti di strumenti, librerie di codice e sistemi automatizzati che gli sviluppatori utilizzano per costruire software. Primo rapporto di Wired AI, la scoperta aggiunge un capitolo preoccupante a un quadro di sicurezza già complicato.

Il verme si muove attraverso un ambiente target a stadi. Inizia silenziosamente, osservando per comprendere quali sistemi ha raggiunto. Quindi cerca token di accesso e chiavi crittografiche, che sono come password e lucchetti digitali che concedono l'accesso ai server e ai sistemi software. Una volta raccolti, li rimanda agli attaccanti.

Man mano che ottiene più accesso, scava più a fondo. Colpisce specificamente i token "npm", credenziali che controllano l'accesso ai repository di pacchetti software, le librerie condivise dove gli sviluppatori archiviano e condividono codice riutilizzabile. Chiunque possieda quei token può spingere codice dannoso verso altri sviluppatori che si fidano di quelle librerie.

Abbastanza dentro un sistema, il verme può attivare quello che Meyers chiama un "interruttore di morte". Questo significa distruggere file o impedire al personale dell'organizzazione di accedere alla propria infrastruttura.

Il vero problema è la visibilità, o la mancanza di essa.

Gli strumenti di codifica IA sono già altamente automatizzati. Eseguono scansioni, estraggono codice, effettuano richieste e spostano dati costantemente. Il verme fa le stesse cose. Per uno scanner di sicurezza, il malware e lo strumento legittimo sono identici.

"È come cercare un ago in un pagliaio tranne che questo è un ago in uno stack di aghi", ha detto Meyers ai ricercatori. I dati di telemetria, i registri e i segnali che gli strumenti di sicurezza utilizzano per individuare problemi, si sovrappongono quasi completamente tra il verme e l'attività legittima di sviluppo di IA.

Gli autori del verme hanno anche costruito ritardi temporali. Alcune funzionalità si attivano ore o addirittura giorni dopo che il malware arriva per la prima volta, interrompendo la catena di causa ed effetto su cui gli investigatori si affidano per ricostruire un attacco.

Meyers afferma che CrowdStrike sta lavorando su nuovi approcci di rilevamento, ma sottolinea che l'industria nel suo complesso deve collaborare su correzioni strutturali prima che lo sviluppo assistito da IA diventi ancora più diffuso.

Dovrebbero preoccuparsi gli sviluppatori e le loro organizzazioni?

Sì, e la preoccupazione si estende oltre i singoli sviluppatori a qualsiasi organizzazione che utilizza software costruito con strumenti di codifica IA. Se una pipeline di sviluppo è compromessa, il codice dannoso può viaggiare a valle nei prodotti su cui i clienti e i dipendenti fanno affidamento ogni giorno.

Fai attenzione a questi segnali: modifiche impreviste alle configurazioni dei pacchetti software, token di accesso che appaiono utilizzati a ore insolite, e processi di compilazione automatizzati che vengono eseguiti senza un trigger chiaro meritano tutti un'indagine. I team di sicurezza dovrebbero anche controllare quali sistemi contengono token npm o credenziali simili e trattarli con la stessa cura riservata alle password principali.