Что такое открытый ИИ и чем он отличается?

Открытый ИИ означает, что базовая модель и часто её рецепт обучения опубликованы для того, чтобы каждый мог её изучить, скопировать и изменить. Противоположность — закрытая или проприетарная модель, доступ к которой возможен только через API или приложение, а внутреннее устройство остаётся секретным. Это как разница между книгой рецептов и рестораном, который продаёт вам только готовое блюдо.

Что именно открывается в открытой модели ИИ?

Как минимум, веса модели становятся доступны публично. Веса — это миллионы или миллиарды числовых значений, которые модель выучила во время обучения, числа, которые её заставляют работать. Некоторые проекты также опубликовывают код обучения, набор данных и документацию.

Не каждый проект выпускает все эти компоненты сразу. Модели Llama от Meta, например, выпускают веса и позволяют широкое использование, но полный набор тренировочных данных не публикуется. Собственная страница исследований Meta по Llama описывает это подробно. Сторонники полностью открытого кода могут утверждать, что выпуск только весов больше похож на «открытые веса», чем на полностью открытый исходный код, но в повседневном разговоре эти термины используются как синонимы.

Чем открытый ИИ отличается от закрытого, как GPT-4?

С закрытой моделью вы отправляете свой текст на сервер компании, она его обрабатывает и отправляет вам ответ. Вы никогда не видите саму модель. Открытые модели позволяют скачать всю модель целиком и запустить её на своём компьютере или облачном сервере.

Это единственное различие имеет большие последствия. Вы можете тонко настроить (специализировать) модель на собственных данных, проверить её на смещения или ошибки и хранить свои данные полностью на локальных серверах, то есть они никогда не покидают вашу организацию. Больница, например, могла бы запустить открытую модель локально, чтобы записи пациентов никогда не попали на внешний сервер.

Каковы реальные преимущества?

Выделяются четыре момента. Во-первых, стоимость: когда у вас есть модель, инференс (её запуск) может быть намного дешевле, чем плата за каждый запрос к API. Во-вторых, настройка: вы можете изменять поведение модели способами, которые коммерческий API не позволяет. В-третьих, прозрачность: исследователи могут изучать, как модель приходит к своим ответам, что чрезвычайно важно для исследований безопасности. Исследования выравнивания Anthropic показывают, почему возможность изучения внутреннего устройства модели ценна. В-четвёртых, отсутствие привязки к поставщику: вы не зависите от того, остаётся ли компания платёжеспособной или сохраняет стабильные цены.

Каковы недостатки и риски?

Открытые модели легче неправильно использовать, потому что каждый может удалить защитные механизмы, которые обычно реализует компания. Они также требуют технических навыков для правильного использования, и вы несёте ответственность за их обновление и безопасность. Для небольших организаций бремя инфраструктуры может быть значительным.

Фреймворк управления рисками ИИ NIST отмечает, что прозрачность работает в обе стороны: она помогает защитникам понять систему, но также помогает злоумышленникам понять, как её взломать.

Открытый ИИ и закрытый ИИ: быстрое сравнение

Функция	Открытый / открытые веса	Закрытый / проприетарный
Доступ к внутреннему устройству модели	Да	Нет
Запуск на собственном оборудовании	Да	Нет
Настройка и тонкая настройка	Да, свободно	Ограничено или нет
Данные остаются на ваших серверах	Да	Обычно нет
Первоначальные технические затраты	Высокие	Низкие
Типичная модель стоимости	Расходы на инфраструктуру	Плата за запрос

Реальный пример открытого ИИ в действии

Стартап в сфере правовых технологий хочет создать помощника по проверке документов. Использование закрытого API означает, что каждый контракт, который он обрабатывает, проходит через серверы кого-то другого, что создаёт проблемы с конфиденциальностью клиентов. Вместо этого команда скачивает открытую модель, настраивает её на юридическом языке и запускает её в собственной защищённой среде. Клиентам никогда не нужно об этом узнавать, и никакие данные не покидают контроль фирмы.

Что именно разрешает лицензия?

Здесь всё становится более тонким. «Открытый» не всегда означает «делайте что хотите». Некоторые модели имеют лицензии, которые запрещают коммерческое использование или требуют открытия исходного кода любых внесённых вами изменений. Определение Open Source Initiative требует, среди прочего, чтобы лицензия не запрещала никому продавать или распространять программное обеспечение. Многие популярные лицензии моделей ИИ не соответствуют этому стандарту, поэтому термин «открытые веса» становится более точным.

Всегда читайте лицензию перед тем, как создавать продукт на основе модели.

Проблема конфиденциальности простыми словами

Локальный запуск открытой модели — это фактически самый приватный вариант, потому что ваши запросы никогда не покидают ваш компьютер. Но есть один минус: загрузка больших файлов моделей (часто 10–70 гигабайт) и их запуск требуют приличного оборудования. Потребительские ноутбуки могут работать с меньшими моделями; большим нужен мощный GPU или арендованный облачный сервер.

Часто задаваемые вопросы

Можно ли свободно использовать открытый ИИ?

Загрузка модели обычно бесплатна, но вы всё равно платите за электричество и оборудование (или облачные вычисления), необходимые для её запуска. Коммерческие лицензии на некоторые модели также могут требовать плату за деловое использование.

Можно ли доверять безопасности открытого ИИ?

Открытые модели могут быть проверены кем угодно, что помогает выявить проблемы, но защитные механизмы могут быть удалены кем угодно. Безопасность во многом зависит от того, как тщательно вы развёртываете и конфигурируете модель для вашего конкретного случая использования.