Тижневий альянс вже працює: новий альянс AI безпеки робить перші кроки

Ключові моменти

• Альянс Open Secure AI Alliance (OSAA), очолюваний Nvidia, запущено менше двох тижнів тому, а вже нараховує понад 120 компаній-членів.
• Робоча група під назвою Shared AI Findings Exchange (SAFE) опублікувала свої перші чернеткові пропозиції для публічного обговорення.
• Adobe, Cisco, Intel, Microsoft та Visa — члени; OpenAI, Google та Anthropic — ні.
• Як OpenAI, так і Google підписали оригінальний відкритий лист, що створив групу, тому їхня відсутність серед членів разюча.
• Linux Foundation, некомерційна організація, яка управляє широко використовуваними проектами відкритого коду, контролює розроблення пропозицій.

Абсолютно новий галузевий альянс, спрямований на забезпечення безпеки AI, вже робить щось незвичайне для організації тижневої давності: реальну роботу.

Open Secure AI Alliance, відоме як OSAA й очолюване Nvidia, представило свій перший конкретний результат на конференції з кібербезпеки Black Hat у Лас-Вегасі цього тижня. Всередині OSAA розташована робоча група під назвою Shared AI Findings Exchange, або SAFE. Її перші чернеткові пропозиції вже відкриті для публічного обговорення, а процес контролює Linux Foundation, некомерційна організація, яка опікується широко використовуваними проектами відкритого коду.

Що саме пропонує ця група?

Ранні пропозиції практичні, а не вразливі. Вони охоплюють конфіденційне повідомлення про інциденти безпеки AI, сповіщення всіх зацікавлених осіб та проведення безвинних оглядів, щоб вся індустрія могла вчитися на помилках.

Члени також об'єднують інструменти з відкритим кодом. Nvidia надає сімейство відкритих моделей AI та інструмент під назвою Garak — сканер, який пошукує вразливості у великих мовних моделях (технологія, що стоїть за AI чат-ботами). Компанія з ідентифікації Okta працює над способами перевірки ідентичності AI-агентів — програм, які можуть самостійно виконувати багатокрокові завдання. Red Hat розробляє рамки управління для цих же агентів. Amazon надав два інструменти: Strands Agents для створення AI-агентів та Cedar — мову для визначення того, кому або чому дозволено робити що-небудь всередині програмної системи.

Мета з часом — зібрати ці компоненти в практичний набір інструментів з відкритим кодом, який будь-який бізнес міг би використати для забезпечення безпеки своїх систем AI або захисту від атак, включаючи інциденти на кшталт проникнення несанкціонованої моделі AI на зовнішню платформу. Hugging Face, популярний сайт для обміну моделями AI, який зазнав саме такого інциденту з моделлю OpenAI, сам є членом OSAA.

Хто включений, а хто відсутній?

Список членів має серйозну вагу. Adobe, BlackRock, Cisco, Intel, Microsoft та Visa всі приєдналися.

Помітно відсутні Anthropic (розробник AI-асистента Claude), OpenAI (ChatGPT) та Google. Остання пара особливо цікава. Обидві компанії підписали відкритий лист, про який вперше повідомив TechCrunch AI, в якому закликали Білий дім підтримати розвиток відкритого AI. Цей лист, підтриманий понад 200 технологічними компаніями й активно推推促 Nvidia, був опублікований всього лиш минулого тижня. Підписати лист, що створив групу, а потім не приєднатися до групи — це дивна позиція.

Дистанціювання Anthropic менш дивовижне. Компанія історично тримала обережну дистанцію від зусиль у сфері відкритого AI.

Що це означає для звичайних людей?

Наразі в вашому повсякденному житті нічого не змінюється. Але якщо цей альянс буде успішним, компанії, що стоять за програмами та сервісами, які ви використовуєте, будуть швидше ділитися знаннями про безпеку, швидше усувати вразливості AI та матимуть кращі інструменти для запобігання перетворенню систем AI на загрозу своїм користувачам. Безвинна культура повідомлень, де компанії визнають проблеми без страху покарання, — це такий структурний змін, який непомітно робить технологію безпечнішою для всіх.

Сам альянс виклав це ясно у своєму засновницькому листі: «Відкритість може бути одним з найважливіших шляхів до безпеки та захищеності AI». З огляду на швидкість, з якою він рухався досі, цю заяву варто сприймати серйозно.

Часті питання

Чи є SAFE державним органом?

Ні. SAFE — це приватна галузева робоча група всередині OSAA, якою управляє Linux Foundation. Вона не має нормативної влади; участь добровільна.

Чи це впливає на мої інструменти AI прямо зараз?

Не безпосередньо. Пропозиції мають форму чернеток і відкриті для обговорення. Будь-які інструменти або стандарти, що виникнуть, будуть впроваджені компаніями-членами у своєму темпі.

Чому відкритий AI важливий для безпеки?

Коли код AI відкритий для перевірки будь-ким, дослідники безпеки можуть швидше знайти та повідомити про проблеми. Закриті системи покладаються лише на компанію в пошуку недоліків, що історично займає більше часу.