Борьба вокруг китайского открытого ИИ — это на самом деле борьба за то, кто получит прибыль

Ключевые моменты

• Moonshot, китайская лаборатория ИИ, выпустила Kimi K3 — крупнейшую открытую модель ИИ (модель, исходный код которой свободно доступен для скачивания и запуска), доступную для общественности.
• Дин У. Болл, руководитель стратегического будущего в OpenAI, публично предложил американскому правительству создать нормативную неопределённость вокруг китайских открытых моделей, но отозвал это предложение после массовых возражений.
• Администрация Трампа рассматривала возможность запрета Kimi K3 и подобных китайских моделей, однако Министерство торговли сигнализирует, что такой запрет не предвидится в ближайшее время.
• Исследователь из Джорджтауна Сэм Бресник полагает, что экспортные ограничения на чипы, а не запреты на модели, будут более эффективным способом замедлить прогресс Китая в области ИИ.
• Американские аспиранты и компании уже активно разрабатывают решения на основе китайских открытых моделей, что вызывает опасения по поводу того, кто определяет направление глобальных исследований в области ИИ.

В прошлом месяце китайская лаборатория Moonshot выпустила Kimi K3 — открытую модель, которую каждый может скачать, запустить на собственном оборудовании и свободно адаптировать. Когда мы впервые сообщили об этом 16 июля, вопрос был в том, сможет ли она сравняться с лучшей закрытой системой Anthropic. Теперь вопрос в том, попытается ли Вашингтон её запретить.

Один только этот выпуск вызвал переполох в Вашингтоне и Кремниевой долине.

Дин У. Болл, возглавляющий направление стратегического будущего в OpenAI, публично заявил, что американское правительство должно создать нормативную неопределённость вокруг китайских открытых моделей, чтобы отговорить от их использования. Специалисты в области технологий, включая Янна ЛеКана, главного учёного по ИИ в Meta, резко возразили. Болл быстро отозвал своё предложение.

Однако политическое давление сохраняется. Axios сообщил, что администрация Трампа активно рассматривает запрет на Kimi K3 и подобные китайские модели. Politico отдельно сообщил, что Министерство торговли не планирует принимать меры в ближайшее время.

Экономика вопроса очевидна. Открытые модели дешевы. Компания может скачать Kimi K3, запустить её на собственных серверах и ничего не платить OpenAI или Anthropic — компаниям, потратившим миллиарды на обучение собственных закрытых моделей на основе подписки. Бреден Hancock, соучредитель компании ИИ Snorkel AI и бывший директор по ИИ в Meta, сказал TechCrunch: «Мощные открытые модели уровня frontier будут сжимать прибыль и снижать цены у компаний frontier.»

Это хорошо для обычных пользователей. Но это неудобно для инвесторов, поддерживавших эти передовые лаборатории.

Должны ли американцы беспокоиться об использовании Kimi K3?

Короткий ответ: это зависит от того, о каком риске идёт речь. В Вашингтоне циркулируют четыре опасения, и они не одинаково серьёзны.

Во-первых, приватность данных. Может ли Kimi K3 тайно отправлять ваши данные китайскому правительству? Запуск её на американских серверах делает это очень сложным, хотя технически не невозможным. Во-вторых, скрытая предвзятость в сторону позиций китайского правительства. Для большинства коммерческих применений, таких как написание кода или резюмирование документов, трудно увидеть практический эффект. В-третьих, более слабые защиты от негативных последствий. Американские модели должны подвергаться государственному процессу проверки для отказа в выполнении определённых чувствительных запросов. Китайские модели часто не имеют таких ограничений, и это имеет двойное значение: Дэвид Сакс, советник Трампа, отметил, что некоторые американские компании уже переходят на китайские модели, потому что американские отказываются выполнять законные задачи в области безопасности.

Четвёртое опасение наиболее значимо. Если китайские открытые модели станут основой, на которой строят глобальные исследователи, Китай фактически определит направление развития всей отрасли. Половина статей, которые сейчас изучают американские аспиранты, поступает из китайских учреждений, а передовые американские лаборатории всё более неохотно делятся своими собственными исследованиями публично.

«Более значительное влияние наличия этих открытых моделей из Китая заключается не в том, что они втайне внедряют бэкдоры, а в том, что они владеют инновациями», — сказал Hancock.

Сэм Бресник, научный сотрудник, специализирующийся на Китае в Центре безопасности и возникающих технологий Джорджтауна, предлагает более чистое решение: ужесточить контроль над продажей процессоров Nvidia H200, специализированных чипов, питающих обучение ИИ, китайским фирмам. «Это», — говорит он, — «потенциально может избавить нас от этого сложного дебата о запрете открытых технологий, которые миллионы американских компаний хотят использовать.»

На данный момент запрета не существует. Моя оценка: самые громкие голоса, требующие ограничений, имеют наибольше всего финансовых интересов в них, и политикам следует учесть это, прежде чем рассматривать это как прямой вопрос национальной безопасности. Если вы компания, уже использующая Kimi K3, разумным шагом будет убедиться, что вы запускаете её на собственной инфраструктуре, а не маршрутизируете данные через внешние серверы, контролируемые Китаем.