Um Vírus Está Escondido nas Ferramentas de Programadores IA e as Equipas de Segurança Mal o Conseguem Ver

Pontos principais

• A CrowdStrike, uma empresa de cibersegurança, descobriu um malware auto-replicável, denominado vírus, a visar ativamente as ferramentas e sistemas que os programadores utilizam para construir software IA.
• O vírus rouba credenciais de acesso, chaves criptográficas e palavras-passe de servidores, podendo depois destruir ficheiros ou bloquear completamente utilizadores legítimos.
• O seu comportamento espelha tão fielmente a automação normal do desenvolvimento IA que os scanners de segurança têm dificuldade em distinguir os dois.
• A CrowdStrike associa a tendência mais ampla de ataques a atores de ameaça incluindo grupos norte-coreanos e um grupo que rastreia como "Altered Spider" (também conhecido como TeamPCP).
• Adam Meyers, vice-presidente sénior de trabalho contra adversários da CrowdStrike, descreveu o problema de detecção como "uma agulha numa pilha de agulhas".

Um vírus é um pedaço de malware, isto é, software malicioso, que se copia e propaga a si próprio sem necessidade de a vítima clicar em nada. Os investigadores da CrowdStrike encontraram um destes enquanto investigavam ataques em cadeias de fornecimento de software IA, as redes de ferramentas, bibliotecas de código e sistemas automatizados que os programadores utilizam para construir software. Reportado pela primeira vez pela Wired AI, a descoberta acrescenta um capítulo preocupante a um panorama de segurança já complicado.

O vírus move-se através de um ambiente alvo por etapas. Começa discretamente, procurando compreender que sistemas alcançou. Depois procura tokens de acesso e chaves criptográficas, que funcionam como palavras-passe digitais e fechaduras que concedem entrada a servidores e sistemas de software. Depois de as recolher, envia-as de volta aos atacantes.

À medida que obtém mais acesso, aprofunda-se. Visa especificamente tokens "npm", credenciais que controlam o acesso a repositórios de pacotes de software, as bibliotecas partilhadas onde os programadores armazenam e partilham código reutilizável. Quem possuir esses tokens pode enviar código malicioso para outros programadores que confiam nessas bibliotecas.

Suficientemente dentro de um sistema, o vírus pode activar o que Meyers chama de "interruptor de morte". Isso significa destruir ficheiros ou impedir que o pessoal da organização aceda à sua infraestrutura.

O verdadeiro problema é a visibilidade, ou a falta dela.

As ferramentas de programação IA são já altamente automatizadas. Executam scans, extraem código, fazem pedidos e movem dados constantemente. O vírus faz as mesmas coisas. Para um scanner de segurança, o malware e a ferramenta legítima parecem idênticos.

"É como uma agulha num palheiro, excepto que isto é uma agulha numa pilha de agulhas," disse Meyers aos investigadores. Os dados de telemetria, os registos e sinais que as ferramentas de segurança utilizam para detetar problemas, sobrepõem-se quase completamente entre o vírus e a atividade genuína de desenvolvimento IA.

Os autores do vírus também incorporaram atrasos de tempo. Algumas capacidades ativam-se horas ou até dias após o malware chegar pela primeira vez, quebrando a cadeia de causa e efeito em que os investigadores se baseiam para reconstruir um ataque.

Meyers diz que a CrowdStrike está a trabalhar em novas abordagens de detecção, mas sublinha que a indústria no seu conjunto precisa de colaborar em correções estruturais antes que o desenvolvimento assistido por IA se torne ainda mais generalizado.

Devem os programadores e as suas organizações estar preocupados?

Sim, e a preocupação estende-se além de programadores individuais a qualquer organização que utilize software construído com ferramentas de programação IA. Se um pipeline de desenvolvimento for comprometido, código malicioso pode viajar para jusante para produtos em que clientes e colaboradores confiam diariamente.

Fique atento a estes sinais: alterações inesperadas nas configurações de pacotes de software, tokens de acesso que parecem ter sido utilizados em horas incomuns, e processos de construção automatizados que correm sem um gatilho claro valem a pena investigar. As equipas de segurança devem também auditar quais os sistemas que possuem tokens npm ou credenciais semelhantes e tratá-los com o mesmo cuidado que palavras-passe mestras.