Стартап Миры Мурати выпустил первую модель ИИ. Она хочет, чтобы компании владели своим ИИ, а не арендовали его.

Ключевые моменты

• Thinking Machines Lab выпустила Inkling в среду — её первую общедоступную модель ИИ примерно через девять месяцев после начала разработки.
• Inkling имеет 975 миллиардов параметров (мера сложности модели), но использует только около 41 миллиарда для каждой задачи, что делает её быстрее и дешевле в работе, чем предполагает её размер.
• Модель имеет открытые веса, то есть любая компания или разработчик может бесплатно её загрузить и модифицировать, в отличие от ChatGPT или Claude.
• Совместное исследование, опубликованное в конце июня, показало, что пользовательская модель, созданная с помощью аналогичных методов с открытыми весами, набрала 84,7% на тестах финансового мышления при примерно одной четырнадцатой стоимости работы лучших проприетарных моделей ИИ.
• Thinking Machines планирует зарабатывать через Tinker — свою платформу для обучения и адаптации модели, а не на самой модели.

Мира Мурати долгие годы была главным технологом в OpenAI. Теперь она делает ставку против того, что продаёт OpenAI.

Thinking Machines Lab, стартап, который Мурати основала после ухода из OpenAI, выпустила свою первую модель ИИ в среду. Она называется Inkling, и она работает иначе, чем известные людям популярные продукты ИИ.

ChatGPT, Claude и Google Gemini — это все закрытые системы. Вы платите за их использование. Компания, которая их создала, сохраняет полный контроль. Inkling имеет открытые веса, что означает, что любая компания или разработчик может загрузить полную модель и переделать её в соответствии со своими собственными потребностями, не платя ничего Thinking Machines.

В этом и заключается вся идея. Компания верит, что ИИ, который компания обучает на своих собственных данных и опыте, будет работать лучше, чем универсальная модель, которую крупная лаборатория продаёт всем.

Доказательства, подтверждающие этот аргумент, действительно интересны. Bridgewater Associates, крупнейший в мире хедж-фонд, работал с исследователями, чтобы взять существующую модель ИИ с открытым исходным кодом и дополнительно обучить её на финансовых знаниях Bridgewater. Эта пользовательская модель набрала 84,7% на тестах финансового мышления, превзойдя лучшие проприетарные продукты ИИ, при этом работая примерно в четырнадцать раз дешевле. Результаты поступают из исследования, которое обе компании опубликовали совместно в конце июня, а не от независимого рецензента, поэтому относитесь к этому с соответствующим скептицизмом.

Генеральный директор Microsoft Сатья Наделла выдвинул схожий аргумент в своём блоге в воскресенье. Компании, использующие закрытые продукты ИИ, платят дважды: один раз за подписку и снова, передавая деловые знания, заложенные во все их запросы и корректировки, знания, которые могут вернуться в будущие версии модели, которой они не владеют.

Действительно ли Inkling хороша?

Thinking Machines прямо говорит, что Inkling не является самой мощной доступной сегодня моделью ИИ, ни закрытой, ни открытой. Вместо этого компания нацелена на стабильную, хорошо сбалансированную производительность при более низких затратах. Компания говорит, что Inkling использует на одну треть меньше шагов обработки, чем конкурирующая модель от Nvidia, чтобы достичь того же результата на тестах кодирования. Она также может указать на то, что она не уверена, вместо того чтобы гадать, и пользователи могут регулировать её мыслительные усилия вверх или вниз в зависимости от того, хотят ли они тщательного ответа или быстрого.

Inkling огромна изнутри. Она была обучена на 45 триллионах токенов — фрагментах текста, изображения, аудио и видеоданных, на которых системы ИИ учатся. Но благодаря своей архитектуре (конструкция смеси экспертов, где для каждой задачи активируется только часть модели) она остаётся практичной в использовании.

Thinking Machines была осторожна в одном: Inkling была частично обучена с использованием выходов других моделей ИИ с открытыми весами — распространённая практика, называемая дистилляцией. Компания говорит, что её следующая модель полностью откажется от этого подхода.

Где Thinking Machines зарабатывает деньги? Не на загрузке модели. Доход поступает от Tinker — её платной платформы для помощи компаниям в тонкой настройке и размещении своих собственных пользовательских версий Inkling.

Вот честный вывод. Если в вашей организации есть реальный, специфический опыт, заключённый в голове вашего персонала и в прошлой работе, пользовательская модель ИИ, обученная на этих знаниях, может превзойти универсальную модель при значительно меньших затратах. Путь к этому теперь немного короче.