Открытые модели ИИ позволяют компаниям создавать системы, которыми они действительно владеют. Вот как это выглядит.

Ключевые моменты

• Harvey, компания, занимающаяся юридическим ИИ, дообучила NVIDIA Nemotron 3 Ultra на собственном юридическом бенчмарке и соответствовала ведущим закрытым моделям при стоимости как минимум в 10 раз ниже за запрос.
• Arcee AI достигла затрат на логический вывод примерно 90 центов за миллион выходных токенов на Nemotron, примерно в 20 раз дешевле, чем у сравнимых закрытых передовых моделей.
• Holotron 3 Nano компании H Company набрала свыше 76% на бенчмарке OSWorld-Verified, оценивающем реальные компьютерные задачи, при этом соответствуя ведущим передовым моделям при доле стоимости.
• LangChain настроила свой фреймворк агентов для Nemotron 3 Ultra без переобучения модели и достигла максимальной точности агентов среди открытых моделей примерно при 10-кратном снижении затрат в сравнении с закрытыми альтернативами.
• YTL AI Labs дообучила модель Nemotron для малайзийского языка, сделав локально адаптированный ИИ доступным для сообщества разработчиков Малайзии.

Большинство бизнесов, которым нужен ИИ сегодня, сталкиваются с одной и той же скрытой проблемой. Большие, мощные модели от OpenAI, Google и Anthropic — это закрытые системы. Вы можете отправлять им вопросы. Но вы не можете заглянуть внутрь, изменить то, что они знают, или запустить их на собственных серверах без маршрутизации данных через чужие системы.

Для больницы или юридической фирмы это имеет большое значение.

NVIDIA позиционирует своё семейство открытых моделей Nemotron, то есть моделей с полностью доступной архитектурой для проверки и изменения, как решение этой проблемы. Опубликованный на этой неделе пост компании показывает, как это выглядит на практике с конкретными цифрами.

Стартап Harvey, занимающийся юридическим ИИ, дообучил Nemotron 3 Ultra на собственном внутреннем юридическом бенчмарке. Результат соответствовал точности лучших закрытых коммерческих моделей на сложных юридических задачах при стоимости, которая, по словам NVIDIA, как минимум в 10 раз ниже за запрос. Это не погрешность округления. Для фирмы, проводящей тысячи проверок документов в месяц, экономия растёт быстро.

Glean создала продукт Waldo — инструмент поиска по корпоративным данным, объединив Nemotron с более крупной закрытой моделью. Waldo выдаёт ответы быстрее и использует меньше токенов, малых единиц текста, которые обрабатывают модели ИИ, что напрямую снижает вычислительные затраты.

Arcee AI пошла дальше в вопросе затрат. Запустив Nemotron на аппаратной платформе NVIDIA Blackwell, поколении микросхем, последовавшем за предыдущим поколением Hopper, компания снизила затраты на логический вывод примерно до 90 центов за миллион выходных токенов. Сравнимые закрытые передовые модели стоят примерно в 20 раз дороже для той же работы.

Не каждый вариант использования связан с юридическими или финансовыми вопросами. YTL AI Labs дообучила модель Nemotron специально для малайзийского языка, создав адаптированный ИИ, который глобальный поставщик вряд ли бы строил по коммерческим соображениям.

Abridge и Heidi Health применяют адаптированные модели Nemotron к клинической документации — трудоёмкой задаче преобразования разговора врача и пациента в структурированное медицинское заключение. Ошибка здесь имеет реальные последствия, что именно поэтому эти команды хотят полной видимости того, как была обучена их модель, и возможности исправить её, если она даст сбой.

Должны ли компании полностью отказаться от закрытых моделей?

Нет. Собственный подход NVIDIA говорит, что открытые и закрытые модели работают лучше всего вместе. Мощная универсальная модель может справляться со сложным планированием, а меньшая специализированная открытая модель выполняет конкретные задачи с меньшими затратами. Думайте о этом как об использовании дорогостоящего специалиста для сложных решений и хорошо подготовленного универсалиста для рутинной работы.

Практический аргумент в пользу открытых моделей не в том, что они превосходят закрытые по каждой задаче сегодня. Это в том, что вы владеете тем, что строите. Вы можете протестировать это на собственных данных, улучшить, когда оно даст сбой, и хранить наиболее чувствительную информацию вне серверов третьих сторон. Для отраслей, где неправильный ответ имеет юридические или клинические последствия, такой контроль не является опциональным.