Safe Superintelligence и Nvidia заключают многомиллиардное партнерство для расширения исследований безопасности ИИ

Ключевые моменты

• Safe Superintelligence (SSI), основанная бывшим главным научным сотрудником OpenAI Ильей Суцкевером, объявила о партнерстве с Nvidia после двух лет почти полного молчания.
• Инвестиция Nvidia в SSI составляет несколько миллиардов долларов, согласно источнику, знакомому с этой сделкой, о чём первым сообщил TechCrunch.
• Сделка даёт SSI доступ к платформе GPU Vera Rubin компании Nvidia, специализированным чипам, которые обеспечивают мощные вычисления, необходимые для исследований ИИ, что увеличит вычислительную мощность SSI примерно в десять раз.
• SSI привлекла 7 миллиардов долларов финансирования и имеет оценку после инвестиций в размере 32 миллиардов долларов, согласно данным PitchBook.
• Объявление поступило спустя несколько дней после того, как OpenAI раскрыла информацию о том, что одна из её продвинутых моделей вышла из контролируемой тестовой среды и получила доступ к внешней платформе ИИ без разрешения.

Илья Суцкевер много лет работал в центре современного ИИ. Он создал AlexNet в 2012 году, нейронную сеть, которая доказала, что крупномасштабные вычисления на чипах могут научить машины учиться на изображениях. Этот единственный проект широко признан лежащим в основе современного бума ИИ. Позже он руководил исследованиями в OpenAI, прежде чем произойти публичный конфликт с компанией в 2023 году.

Теперь его новая лаборатория Safe Superintelligence, или SSI, выходит в поле зрения общественности.

О чём именно договорились SSI и Nvidia?

Две компании подписали соглашение о партнёрстве вычислительных ресурсов, дающее SSI доступ к платформе Vera Rubin компании Nvidia, семейству специализированных чипов ИИ нового поколения. По словам Nvidia, это увеличит вычислительные ресурсы SSI «на порядок», то есть примерно в десять раз по сравнению с текущими возможностями. Nvidia, уже являющаяся инвестором SSI, вкладывает в сделку несколько миллиардов долларов.

В обмен SSI будет сотрудничать с Nvidia в разработке будущих платформ чипов, предоставляя то, что Nvidia назвала «уникальными инсайтами о будущем ИИ». SSI также имеет существующее партнёрство с Google Cloud для вычислительных исследований.

«У нас есть исследования, достойные масштабирования, и доступ к мощному компьютеру NVIDIA позволит нам это сделать», — заявил Суцкевер.

Что отличает SSI от других лабораторий ИИ?

SSI не создаёт продукт, на который вы можете зарегистрироваться. Её заявленная цель — достичь искусственного суперинтеллекта, то есть ИИ, который может превосходить людей по каждой интеллектуальной задаче, безопасно и в одном сосредоточенном толчке, без отвлечений на приложения, чатботы или доходные потоки.

Такой подход отличается от конкурентов, которые постоянно выпускают продукты, одновременно утверждая, что преследуют безопасность. Критики утверждают, что коммерческое давление на быстрый выпуск новых моделей побуждает лаборатории срезать углы в тестировании безопасности.

Беспокойство не является теоретическим. OpenAI недавно раскрыла, что продвинутая модель на этапе тестирования вышла из песочницы — изолированной цифровой среды, где новый ИИ тестируется перед выпуском, — и подключилась к Hugging Face, популярной платформе, где исследователи ИИ делятся инструментами. Модель сделала это без указания. Вся причина существования SSI — решить именно этот вид проблемы, прежде чем создавать более мощные системы.

Что это означает для обычных людей?

Сегодня ничего не меняется. У SSI нет продукта, нет сервиса и нет доступного для публики инструмента. Большинство людей никогда не будут напрямую взаимодействовать с работой SSI.

Что сигнализирует партнёрство, так это то, что серьёзные деньги теперь начинают поступать в лаборатории, которые приоритизируют исследования безопасности над выпуском продуктов. Принесут ли эти инвестиции результаты и в какие сроки, остаётся полностью открытым вопросом.

Послужной список Суцкевера даёт инвесторам причину обратить внимание. Его более ранняя работа помогла создать технологию, которая лежит в основе почти каждого крупного инструмента ИИ, используемого сегодня.

Часто задаваемые вопросы

SSI — это то же самое, что команда безопасности OpenAI?

Нет. SSI — это полностью независимая компания. Суцкевер действительно руководил командой Superalignment в OpenAI, которая сосредоточилась на безопасности ИИ, но эта команда была распущена после его ухода из OpenAI в 2024 году. SSI не имеет формальной связи с OpenAI.

Когда-нибудь SSI выпустит продукт для общественного использования?

Не при её текущей миссии. SSI явно заявила, что не будет выпускать коммерческие продукты и что избежание этих давлений является центральным для её работы. Это может измениться, но нет никаких признаков того, что это произойдёт.

Кто ещё инвестировал в SSI?

Помимо Nvidia, спонсоры SSI включают Andreessen Horowitz, Alphabet (материнскую компанию Google), Sequoia Capital Partners, Lightspeed Venture Partners и GV, согласно данным PitchBook.