Десятки технологических гигантов создали открытый альянс безопасного ИИ для демократизации инструментов кибероборони
Более 40 компаний, от Microsoft до Hugging Face, объединили усилия по созданию открытых инструментов безопасности на основе ИИ, чтобы любая организация могла защищаться без зависимости от горстки закрытых провайдеров.
Ключевые моменты
- Более 40 компаний запустили открытый альянс безопасного ИИ в 2025 году для создания свободно доступных инструментов безопасности ИИ.
- Недавний инцидент безопасности Hugging Face продемонстрировал важность открытого ИИ: закрытые инструменты блокировали доступ исследователям, поэтому компания запустила открытую модель для анализа более 17 000 подозрительных действий.
- NVIDIA предоставляет открытые модели и новую исследовательскую платформу NOOA (NVIDIA Labs Object-Oriented Agent) альянсу.
- Подразделение xAI компании SpaceX выпустило в открытый доступ кодировочный агент Grok Build и планирует опубликовать параметры модели Grok, её основные математические файлы.
- Альянс призывает правительства рассматривать открытые инструменты безопасности ИИ как оборонительные активы, а не риски, подлежащие ограничению.
Более сорока крупнейших технологических компаний объединились в новую коалицию, чтобы сделать защиту от кибератак на основе ИИ свободно доступной для любого защитника в любом месте. Группа называет себя открытым альянсом безопасного ИИ, и её учредители включают NVIDIA, Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Hugging Face, Palo Alto Networks, Red Hat, Salesforce и Capital One, среди прочих.
Основная идея проста. В настоящее время самые мощные инструменты безопасности на основе ИИ находятся в руках небольшого числа крупных закрытых коммерческих продуктов. Если эти инструменты блокируют вам доступ или не могут отличить вас от злоумышленника, вы остаётесь без помощи.
Какой реальный инцидент доказал эту необходимость?
Реальный инцидент подтвердил их аргумент. Когда платформа исследований ИИ Hugging Face, используемая миллионами разработчиков, столкнулась с нарушением безопасности, компания попыталась использовать закрытые инструменты ИИ для расследования. Эти инструменты отказали в помощи, так как не смогли определить, являются ли запрашивающие лица защитниками или злоумышленниками.
Затем Hugging Face запустила открытую модель GLM 5.2, систему ИИ, основные файлы которой общедоступны для скачивания и запуска, на собственных серверах. Модель проанализировала более 17 000 записанных действий и помогла локализовать нарушение. Без этой открытой модели, работающей на контролируемой компанией инфраструктуре, расследование было бы заблокировано.
Этот случай точно показывает, почему существует альянс. Когда скорость критична, защитникам нужны инструменты, которые они могут проверить, адаптировать и запустить самостоятельно.
Что конкретно создают участники?
Каждый участник вносит конкретный вклад. NVIDIA, о чём впервые сообщил её собственный блог, выпускает открытые модели и платформу для исследований NOOA, набор инструментов, облегчающих тестирование и аудит агентов ИИ, программных приложений, способных самостоятельно выполнять многошаговые задачи, перед их развёртыванием. Microsoft предоставляет MDASH, сканирующий инструмент, то есть координационный слой, который отправляет несколько специализированных агентов ИИ для поиска и проверки уязвимостей в программном обеспечении. HPE участвует в разработке стандарта SPIFFE/SPIRE, который предоставляет агентам ИИ криптографический идентификатор, своего рода защищённое от подделок цифровое удостоверение, чтобы системы могли подтвердить, что они взаимодействуют с доверенной рабочей нагрузкой, а не с подделкой.
Hugging Face предложила Safetensors, безопасный формат файлов для хранения параметров моделей ИИ, который блокирует распространённую атаку, при которой файл модели тайно запускает вредоносный код на компьютере, открывающем этот файл, на рассмотрение фонда PyTorch для совместного управления.
| Участник | Инструмент или вклад | Что он делает |
|---|---|---|
| NVIDIA | Платформа NOOA + открытые модели | Тестирует, отслеживает и проводит аудит поведения агентов ИИ |
| Microsoft | Сканирующий инструмент MDASH | Мультиагентная система для поиска уязвимостей в программном обеспечении |
| HPE | Стандарт идентификации SPIFFE/SPIRE | Предоставляет агентам ИИ проверенный цифровой идентификатор |
| Hugging Face | Формат Safetensors | Безопасно хранит файлы моделей, блокирует скрытое выполнение кода |
| IBM + Red Hat | Инструмент Lightwell для цепочки поставок | Цифровое подписание патчей программного обеспечения в проектах с открытым исходным кодом |
Должны ли об этом беспокоиться обычные люди?
Да, если они используют онлайн-сервисы, банковские системы, медицинские записи или что-либо, работающее на облачном программном обеспечении. Компании и государственные учреждения, защищающие эти сервисы, — это те защитники, которым пытается помочь альянс. Более мощные и широко доступные инструменты защиты означают меньше нарушений и более быстрый ответ на инциденты.
Альянс также прямо просит политиков не запрещать и не ограничивать открытые передовые инструменты ИИ. Всеобъемлющие ограничения, считает группа, заставят организации полагаться исключительно на небольшое число закрытых провайдеров, создавая единую точку отказа для критической инфраструктуры.
Часто задаваемые вопросы
Означает ли открытый ИИ, что любой, включая преступников, может использовать эти инструменты безопасности?
Открытые модели несут реальные риски неправомерного использования, и альянс это открыто признаёт. Ответ, по мнению участников, состоит в введении строгих мер защиты и чётких правил против вредоносного использования, а не в отказе защитникам в доступе к мощным инструментам. Закрытые системы сталкиваются с теми же рисками и не избавляют от них.
Что такое модель с открытыми параметрами и почему это важно для безопасности?
Модель с открытыми параметрами — это система ИИ, основные математические файлы которой публично опубликованы, чтобы любая организация могла скачать, проверить и запустить их на своих компьютерах. Для команд безопасности это означает, что они могут анализировать свои собственные данные без отправки их третьей стороне, и они могут проверить точно, что делает ИИ.
Что должна делать моя организация прямо сейчас?
Если вы отвечаете за ИТ или безопасность компании, платформа NOOA и формат Safetensors уже публично доступны на GitHub и через фонд PyTorch. Отслеживание опубликованной работы альянса — это практическая начальная точка для команд, оценивающих открытые инструменты безопасности ИИ.
