Червак приховується в інструментах розробників ШІ, а команди безпеки майже не можуть його виявити

Ключові моменти

• CrowdStrike, фірма з кібербезпеки, виявила самовідтворювальний малвар, так звану хробака, який активно атакує інструменти й системи, які розробники використовують для створення ПО для ШІ.
• Хробак викрадає облікові дані для доступу, криптографічні ключі та паролі серверів, а потім може знищити файли або повністю заблокувати доступ для легітимних користувачів.
• Його поведінка настільки точно відображає нормальну автоматизацію розроблення ШІ, що засоби сканування безпеки з ускладненням розрізняють їх.
• CrowdStrike пов'язує більш широкий тренд атак з учасниками загроз, включаючи північнокорейські групи та групу, яку вона відслідковує як «Altered Spider» (також відома як TeamPCP).
• Адам Майерс, старший віцепрезидент CrowdStrike з роботи проти супротивників, описав проблему виявлення як «голку в стозі голок».

Хробак — це шматок малвару, тобто шкідливого ПО, який копіює та поширює себе без участі жертви. Дослідники CrowdStrike виявили один із них під час розслідування атак на ланцюги постачання ПО для ШІ — мережі інструментів, бібліотек коду та автоматизованих систем, які розробники використовують для створення ПО. Знахідка, про яку першим повідомив Wired AI, додає тривожну главу до вже складної картини безпеки.

Хробак рухається через цільове середовище етапами. Він починає тихо, розглядаючись, щоб зрозуміти, які системи він досяг. Потім шукає маркери доступу та криптографічні ключі, які подібні до цифрових паролів і замків, що надають доступ до серверів та систем ПО. Коли він збирає їх, відправляє їх назад атакуючим.

Одержуючи більше доступу, він копає глибше. Він спеціально націлюється на маркери «npm», облікові дані, які контролюють доступ до репозиторіїв пакетів ПО — спільних бібліотек, де розробники зберігають і поділяються повторно використовуваним кодом. Будь-хто, хто володіє цими маркерами, може розповсюджувати шкідливий код іншим розробникам, які довіряють цим бібліотекам.

Достатньо глибоко в системі хробак може включити те, що Майерс називає «вимикачем смерті». Це означає знищення файлів або блокування доступу власного персоналу організації до своєї інфраструктури.

Справжня проблема полягає у видимості, або її відсутності.

Інструменти кодування ШІ вже вельми автоматизовані. Вони постійно запускають сканування, витягують код, роблять запити та переміщають дані. Хробак робить те ж саме. Для засобу сканування безпеки малвар та легітимний інструмент виглядають однакові.

«Це як голка в стозі сіна, але це голка в стозі голок», — розповів Майерс дослідникам. Телеметрійні дані, журнали й сигнали, які використовують засоби безпеки для виявлення проблем, майже повністю збігаються між хробаком та справжньою діяльністю розроблення ШІ.

Автори хробака також вбудували затримки за часом. Деякі можливості активуються через години або навіть дні після того, як малвар першим потрапив, розриваючи ланцюг причин та наслідків, на які слідчі покладаються, щоб реконструювати атаку.

Майерс каже, що CrowdStrike працює над новими підходами до виявлення, але наголошує, що індустрія в цілому повинна співпрацювати над структурними виправленнями, перш ніж розроблення з допомогою ШІ стане ще більш поширеним.

Чи повинні розробники та їхні організації хвилюватися?

Так, і стурбованість виходить за межі окремих розробників на будь-яку організацію, яка використовує ПО, створене за допомогою інструментів кодування ШІ. Якщо конвеєр розроблення скомпрометований, шкідливий код може потрапити вниз по течії в продукти, на які покладаються клієнти та працівники щодня.

Стежте за цими ознаками: неочікувані зміни конфігурацій пакетів ПО, маркери доступу, які здаються використаними в незвичайні години, та автоматизовані процеси збірки, які запускаються без чіткого спускового механізму — все це варто розслідувати. Команди безпеки також повинні провести аудит того, які системи містять маркери npm або подібні облікові дані, та ставитися до них з тією ж обережністю, що й до головних паролів.