Червь скрывается в инструментах разработки ИИ, и команды безопасности едва его видят

Ключевые моменты

• CrowdStrike, компания в области кибербезопасности, обнаружила самораспространяющийся вредонос, называемый червём, активно нацеленный на инструменты и системы, которые разработчики используют для создания ПО ИИ.
• Червь крадёт учётные данные доступа, криптографические ключи и пароли серверов, а затем может удалить файлы или полностью заблокировать легальных пользователей.
• Его поведение настолько точно отражает нормальную автоматизацию разработки ИИ, что сканеры безопасности с трудом различают эти две вещи.
• CrowdStrike связывает общую тенденцию атак с субъектами угроз, включая группы из Северной Кореи и группу, которую она отслеживает как "Altered Spider" (также известную как TeamPCP).
• Адам Мейерс, старший вице-президент CrowdStrike по работе с противниками, назвал проблему обнаружения "иголкой в стоге иголок".

Червь — это часть вредоноса, то есть вредоносного ПО, которое копирует и распространяет себя без необходимости жертве что-либо нажимать. Исследователи CrowdStrike обнаружили его во время расследования атак на цепочки поставок ПО ИИ — сети инструментов, библиотек кода и автоматизированных систем, которые разработчики используют для создания ПО. Впервые об этой находке сообщило издание Wired AI, и она добавляет тревожную главу в уже сложную картину безопасности.

Червь движется через целевую среду этапами. Он начинает тихо, изучая, какие системы он достиг. Затем он ищет маркеры доступа и криптографические ключи, которые похожи на цифровые пароли и замки, дающие доступ к серверам и системам ПО. Собрав их, он отправляет их обратно злоумышленникам.

По мере получения большего доступа он углубляется дальше. Он специально нацелен на токены "npm" — учётные данные, которые контролируют доступ к репозиториям пакетов ПО, общим библиотекам, где разработчики хранят и обмениваются многоразовым кодом. Любой, кто обладает этими токенами, может выпустить вредоносный код другим разработчикам, которые доверяют этим библиотекам.

Достаточно глубоко внутри системы червь может активировать то, что Мейерс называет "переключателем смерти". Это означает удаление файлов или блокировку доступа собственного персонала организации к своей инфраструктуре.

Настоящая проблема — видимость, или её отсутствие.

Инструменты кодирования ИИ уже высокоавтоматизированы. Они постоянно выполняют сканирование, извлекают код, делают запросы и перемещают данные. Червь делает то же самое. Для сканера безопасности вредонос и легальный инструмент выглядят одинаково.

"Это как иголка в стоге сена, только это иголка в стоге иголок", — сказал Мейерс исследователям. Телеметрические данные, логи и сигналы, которые инструменты безопасности используют для обнаружения проблем, почти полностью совпадают между червём и подлинной деятельностью разработки ИИ.

Авторы червя также встроили задержки по времени. Некоторые возможности активируются через часы или даже дни после первого попадания вредоноса, прерывая цепь причины и следствия, на которую полагаются следователи при реконструкции атаки.

Мейерс говорит, что CrowdStrike работает над новыми подходами к обнаружению, но подчёркивает, что индустрия в целом должна сотрудничать в отношении структурных исправлений, прежде чем разработка с поддержкой ИИ станет ещё более распространённой.

Должны ли разработчики и их организации беспокоиться?

Да, и беспокойство распространяется не только на отдельных разработчиков, но и на любую организацию, использующую ПО, созданное с помощью инструментов кодирования ИИ. Если конвейер разработки скомпрометирован, вредоносный код может распространиться вниз в продукты, на которые полагаются клиенты и сотрудники каждый день.

Обратите внимание на эти признаки: неожиданные изменения конфигураций пакетов ПО, маркеры доступа, которые кажутся используемыми в необычное время, и автоматизированные процессы сборки, которые запускаются без явного триггера, стоит расследовать. Команды безопасности должны также провести аудит систем, которые хранят токены npm или аналогичные учётные данные, и относиться к ним с той же осторожностью, как к главным паролям.