Десятки технологічних гігантів створили Альянс відкритої безпеки AI для надання інструментів кібероборони всім
Більше ніж 40 компаній, від Microsoft до Hugging Face, об'єднуються для спільного використання інструментів безпеки AI з відкритим кодом, щоб будь-яка організація могла захищатися без залежності від кількох закритих постачальників.
Ключові моменти
- Більше ніж 40 компаній запустили Альянс відкритої безпеки AI у 2025 році для розробки вільно доступних інструментів безпеки AI.
- Недавний злом безпеки Hugging Face показав, чому важлива відкрита AI: закриті інструменти заблокували розслідування, тому компанія запустила відкриту модель для аналізу понад 17 000 підозрілих дій.
- NVIDIA надає відкриті моделі та новий дослідницький фреймворк NOOA (NVIDIA Labs Object-Oriented Agent) Альянсу.
- Одиниця AI компанії SpaceX, xAI, відкрила вихідний код агента кодування Grok Build і планує випустити ваги, основні математичні файли, своєї лінійки моделей Grok.
- Альянс закликає уряди розглядати інструменти відкритої безпеки AI як оборонні активи, а не ризики, які потрібно обмежувати.
Понад сорок найбільших технологічних компаній світу приєдналися до нової коаліції, яка робить AI-дефіндовану кібероборону вільно доступною для будь-якого захисника де завгодно. Група називається себе Альянсом відкритої безпеки AI, а її засновниками-членами є NVIDIA, Microsoft, IBM, Cisco, Cloudflare, CrowdStrike, Hugging Face, Palo Alto Networks, Red Hat, Salesforce та Capital One серед інших.
Основна ідея проста. Наразі найпотужніші інструменти безпеки AI знаходяться всередині невеликої кількості великих закритих комерційних продуктів. Якщо ці інструменти блокують ваш доступ або просто не можуть відрізнити вас від зловмисника, ви застрягли.
Що саме трапилося, щоб це довести?
Реальна подія підтвердила їхній аргумент. Коли Hugging Face, платформа для AI-досліджень, якою користуються мільйони розробників, зазнала порушення безпеки, компанія спробувала використати закриті AI-інструменти для розслідування. Ці інструменти відмовилися допомагати, тому що не могли підтвердити, чи були люди, які задавали питання, захисниками чи зловмисниками.
Hugging Face потім запустила відкриту модель GLM 5.2, систему AI, основні файли якої доступні для завантаження та запуску будь-кому, на власних серверах. Модель відсортувала понад 17 000 записаних дій та допомогла стримати вторгнення. Без цієї відкритої моделі, запущеної на інфраструктурі, яку контролює сама компанія, розслідування зупинилось би.
Цей випадок точно показує, чому існує Альянс. Коли час критичний, захисникам потрібні інструменти, які вони можуть інспектувати, адаптувати та запускати самостійно.
Що насправді будують члени?
Кожен член надає щось конкретне. NVIDIA, вперше повідомлена як головний організатор у своєму власному блозі, випускає відкриті моделі та дослідницький фреймворк NOOA, набір інструментів, який полегшує тестування та аудит AI-агентів, програм, які можуть виконувати багатокрокові завдання самостійно, перед розгортанням. Microsoft надає MDASH, сканувальну систему, яка означає координаційний шар, що відправляє кілька спеціалізованих AI-агентів для пошуку та перевірки вразливостей безпеки в програмному забезпеченні. HPE сприяє стандарту SPIFFE/SPIRE, який надає AI-агентам криптографічну ідентичність, своєрідний захищений від підробки цифровий посвідчення, щоб системи могли підтвердити, що вони спілкуються з надійним навантаженням, а не з самозванцем.
Hugging Face запропонувала Safetensors, безпечний формат файлу для зберігання ваг моделі AI, який блокує поширену атаку, де файл моделі таємно запускає шкідливий код на комп'ютері, який його відкриває, фундаменту PyTorch для спільного керування.
| Розробник | Інструмент або внесок | Що він робить |
|---|---|---|
| NVIDIA | Фреймворк NOOA + відкриті моделі | Тестує, відстежує та аудирує поведінку AI-агентів |
| Microsoft | Сканувальна система MDASH | Мультиагентна система для пошуку вразливостей ПО |
| HPE | Стандарт ідентичності SPIFFE/SPIRE | Надає AI-агентам перевірену цифрову ідентичність |
| Hugging Face | Формат Safetensors | Безпечно зберігає файли моделей, блокує приховане виконання коду |
| IBM + Red Hat | Інструмент ланцюга поставок Lightwell | Цифрово підписує програмні патчі в проектах з відкритим кодом |
Чи повинні звичайні люди це цікавити?
Так, якщо вони використовують онлайн-сервіси, банківські послуги, медичні записи або що-небудь, що працює на хмарному програмному забезпеченні. Компанії та державні агентства, які захищають ці сервіси, це захисники, яким Альянс намагається допомогти. Більш сильні та широко доступні інструменти оборони означають менше порушень та швидші реакції на випадки, коли вони трапляються.
Альянс також безпосередньо просить політиків не забороняти та не обмежувати відкриті передові AI-інструменти. Комплексні обмеження, стверджує група, б заштовхнули б організації повністю покладатися на невелику кількість закритих постачальників, створюючи одну точку відмови для критичної інфраструктури.
Поширені запитання
Чи означає відкрита AI, що будь-хто, включаючи злочинців, може використовувати ці інструменти безпеки?
Відкриті моделі мають реальні ризики зловживання, і Альянс це відверто визнає. Відповідь, як стверджують члени, - це сильні гарантії та чіткі правила проти зловмисного використання, а не позбавлення захисників доступу до потужних інструментів. Закриті системи стикаються з тими ж ризиками й не роблять їх неіснуючими.
Що таке відкрита модель на вагах і чому це важливо для безпеки?
Відкрита модель з вагами - це система AI, основні математичні файли якої публічно випущені, тому будь-яка організація може завантажити, інспектувати та запустити її на власних комп'ютерах. Для команд безпеки це означає, що вони можуть аналізувати власні дані без надсилання їх на сервіс третьої сторони, і вони можуть перевірити, що саме робить AI.
Що моя організація має робити прямо зараз?
Якщо ви керуєте IT або безпекою компанії, фреймворк NOOA та формат Safetensors уже публічно доступні на GitHub та через фундамент PyTorch. Відстеження опублікованої роботи Альянсу є практичною початковою точкою для команд, які оцінюють інструменти безпеки з відкритою AI.
