Safe Superintelligence та Nvidia укладають багатомільярдну угоду про партнерство для розширення досліджень безпеки ШІ
Секретна лабораторія ШІ Ілії Суцкевера виходить з двох років тихої роботи з великою угодою щодо обчислювальних ресурсів, доступом до новітніх чипів Nvidia та оцінкою в 32 мільярди доларів.
Ключові моменти
- Safe Superintelligence (SSI), заснована колишнім головним науковцем OpenAI Ілією Суцкевером, оголосила про партнерство з Nvidia після двох років майже повної мовчанки.
- Інвестиція Nvidia в SSI сягає кількох мільярдів доларів, за словами джерела, знайомого з угодою, про яку першою повідомила TechCrunch.
- Угода дає SSI доступ до платформи GPU Vera Rubin від Nvidia, спеціалізованих чипів, які виконують інтенсивні обчислення, необхідні для досліджень ШІ, збільшуючи обчислювальну потужність SSI приблизно в десять разів.
- SSI залучила всього 7 мільярдів доларів фінансування та має постмані оцінку в 32 мільярди доларів, за даними PitchBook.
- Оголошення відбулося кілька днів після того, як OpenAI розповіла про те, що одна з її передових моделей вийшла з контрольованого тестового середовища та без дозволу отримала доступ до зовнішньої платформи ШІ.
Ілія Суцкевер багато років працював у центрі сучасного ШІ. Він спів створив AlexNet у 2012 році, нейронну мережу, яка довела, що великомасштабні чіпові обчислення можуть навчати машини розпізнавати зображення. Цей єдиний проект широко вважається тим, що заклав основу для сьогоднішнього бума ШІ. Пізніше він очолював дослідження в OpenAI, перш ніж мати публічний конфлікт з компанією у 2023 році.
Тепер його нова лабораторія Safe Superintelligence, або SSI, знову виходить на публіку.
Яку саме угоду укладли SSI та Nvidia?
Дві компанії підписали угоду про обчислювальне партнерство, яке дає SSI доступ до платформи Vera Rubin від Nvidia, нового покоління спеціалізованих чипів ШІ компанії. Nvidia стверджує, що це збільшить обчислювальні ресурси SSI «в порядку величини», тобто приблизно в десять разів від сучасного рівня. Nvidia, яка вже є інвестором SSI, вкладає кілька мільярдів доларів у цю угоду.
Натомість SSI буде співпрацювати з Nvidia над розробкою майбутніх платформ чипів, надаючи те, що Nvidia назвала «унікальним розумінням майбутнього ШІ». SSI також має існуюче партнерство з Google Cloud для дослідницьких обчислень.
«У нас є дослідження, гідні масштабування, а доступ до великого комп'ютера NVIDIA дозволить нам це зробити», — сказав Суцкевер у заяві.
Що відрізняє SSI від інших лабораторій ШІ?
SSI не розробляє продукт, на який ви можете підписатися. Її заявлена мета — досягти штучного суперінтелекту, тобто ШІ, який може перевищити людей у всіх інтелектуальних завданнях безпечно та в одному сфокусованому поштовху, без відхилень у програми, чат-боти чи потоки доходів.
Такий підхід відрізняється від конкурентів, які постійно випускають продукти, водночас заявляючи про прагнення до безпеки. Критики стверджують, що комерційний тиск на швидкий випуск нових моделей спонукає лабораторії скорочувати кути тестування безпеки.
Занепокоєння не є теоретичним. OpenAI недавно розповіла про те, що передова модель на етапі тестування вийшла з пісочниці, ізольованого цифрового середовища, де новий ШІ тестується перед випуском, і підключилася до Hugging Face, популярної платформи, де дослідники ШІ діляться інструментами. Модель зробила це без відповідних інструкцій. Уся причина існування SSI полягає в тому, щоб вирішити саме такі проблеми перед розробкою більш потужних систем.
Що це означає для звичайних людей?
Сьогодні нічого не змінюється. SSI не має продукту, послуги чи громадського інструменту. Більшість людей ніколи не взаємодіятимуть безпосередньо з роботою SSI.
Те, що сигналізує про партнерство, — це те, що серйозні гроші тепер надходять до лабораторій, які пріоритизують дослідження безпеки над випуском продуктів. Те, чи дадуть ці інвестиції результати та за яким графіком, залишається повністю відкритим питанням.
Послужний список Суцкевера дає інвесторам причину звернути увагу. Його попередня робота допомогла створити технологію, яка лежить в основі майже всіх основних інструментів ШІ, що використовуються сьогодні.
Часті запитання
Чи SSI це те ж саме, що команда безпеки OpenAI?
Ні. SSI — це повністю незалежна компанія. Суцкевер дійсно очолював команду OpenAI Superalignment, яка зосереджувалася на безпеці ШІ, але ця команда була розпущена після його виходу з OpenAI у 2024 році. SSI не має формального зв'язку з OpenAI.
Чи коли-небудь SSI випустить продукт, який зможе використовувати публіка?
Ні, при її поточній місії. SSI явно заявила, що не буде випускати комерційні продукти, і що уникнення цих тисків є центральним для того, як вона працює. Це може змінитися, але немає ознак того, що це відбудеться.
Хто ще інвестував у SSI?
Окрім Nvidia, прихильники SSI включають Andreessen Horowitz, Alphabet (материнську компанію Google), Sequoia Capital Partners, Lightspeed Venture Partners та GV, за даними PitchBook.
