Що таке AI з відкритим кодом і чим він відрізняється?
AI з відкритим кодом дає вам доступ до схеми моделі. Ось що це насправді означає і чому це важливо.
AI з відкритим кодом означає, що базова модель, а часто й рецепт її навчання, опубліковані для того, щоб кожен міг перевірити, скопіювати та змінити їх. Протилежність — закрита або власницька модель, де ви можете отримати доступ до AI лише через API або застосунок, а внутрішня робота залишається таємницею. Це як різниця між кулінарною книгою та рестораном, який продає вам лише готову страву.
Що саме "відкривається" в моделі AI з відкритим кодом?
Щонайменше публічно випускаються ваги моделі. Ваги — це мільйони чи мільярди числових значень, які модель усвідомила під час навчання, числа, які насправді її роблять. Деякі проекти також випускають код навчання, набір даних та документацію.
Не кожен проект випускає все це одночасно. Наприклад, моделі Llama від Meta випускають ваги й дозволяють широке використання, але повні дані навчання не публікуються. Власна сторінка дослідження Meta для Llama детально це описує. Справжні прихильники відкритого коду аргументували б, що випуск лише ваг ближче до "відкритих ваг", ніж до повністю відкритого коду, але в повсякденній розмові ці терміни використовуються як взаємозамінні.
Чим AI з відкритим кодом відрізняється від закритого AI на кшталт GPT-4?
У закритій моделі ви надсилаєте свій текст на сервер компанії, вона його обробляє й надсилає відповідь назад. Ви ніколи не бачите саму модель. Відкриті моделі дозволяють завантажити всю модель цілком і запустити її на власному комп'ютері або хмарному сервері.
Така одна різниця має великі наслідки. Ви можете тонко налаштувати (спеціалізувати) модель на своїх даних, перевірити її на упередженість чи помилки та зберігати свої дані повністю на місцевих серверах, тобто вони ніколи не виходять з вашої організації. Наприклад, лікарня могла б запустити відкриту модель локально, щоб записи пацієнтів ніколи не потрапляли на зовнішній сервер.
Які реальні переваги?
Виділяються чотири речі. По-перше, вартість: після отримання моделі висновок (запуск) може бути набагато дешевшим, ніж сплата за запити через API. По-друге, налаштування: ви можете змінити поведінку моделі так, як комерційний API це не дозволяє. По-третє, прозорість: дослідники можуть вивчати, як модель дає відповіді, що надзвичайно важливо для дослідження безпеки. Дослідження вирівнювання Anthropic підкреслює, чому можливість дослідити внутрішню роботу моделі цінна. По-четвертому, відсутність прив'язки до постачальника: ви не залежите від того, що одна компанія залишиться платоспроможною чи збереже стабільні ціни.
Які недоліки та ризики?
Відкриті моделі можуть бути зловживані легше, тому що будь-хто може видалити захисні механізми, які компанія зазвичай застосовує. Вони також потребують технічних навичок для якісного запуску, і ви несете відповідальність за їх оновлення й безпеку. Меншим організаціям може бути важко тримати таку інфраструктуру.
Рамка управління ризиками AI NIST зазначає, що прозорість діє в обидві сторони: вона допомагає захисникам зрозуміти систему, але також допомагає нападникам зрозуміти, як її зловживати.
AI з відкритим кодом проти закритого AI: швидке порівняння
| Функція | Відкритий код / відкриті ваги | Закритий / власницький |
|---|---|---|
| Побачити внутрішню роботу моделі | Так | Ні |
| Запустити на своєму обладнанні | Так | Ні |
| Налаштувати та тонко налаштувати | Так, вільно | Обмежено або ні |
| Дані залишаються на ваших серверах | Так | Зазвичай ні |
| Початковий технічний зусиллю | Високий | Низький |
| Типова модель вартості | Витрати на інфраструктуру | Сплата за запит |
Реальний приклад AI з відкритим кодом у дії
Стартап у галузі юридичних технологій хоче створити помічника для перегляду документів. Використання закритого API означає, що кожен контракт, який він обробляє, проходить через сервери когось іншого, що створює проблеми з конфіденційністю клієнтів. Замість цього команда завантажує модель з відкритими вагами, тонко налаштовує її на юридичну мову і запускає її у своєму безпечному середовищі. Клієнти ніколи не мають дізнаватися, і жодні дані не залишають контроль фірми.
Що насправді дозволяє ліцензія?
Ось де справи стають деліката. "Відкритий код" не завжди означає "робити все, що ти хочеш". Деякі моделі мають ліцензії, які обмежують комерційне використання або вимагають відкрити свої модифікацій. Визначення Open Source Initiative вимагає, серед іншого, щоб ліцензія не обмежувала нікого від продажу або передачі програмного забезпечення. Багато популярних ліцензій моделей AI не відповідають цьому стандарту, тому фраза "відкриті ваги" стає більш точною.
Завжди читайте ліцензію перед тим, як створювати продукт на основі моделі.
Проблема приватності простими словами
Запуск відкритої моделі локально насправді є найприватнішим доступним варіантом, тому що ваші запити ніколи не залишають вашу машину. Недолік полягає в тому, що завантаження великих файлів моделі (часто від 10 до 70 гігабайт) і їх запуск вимагають приличного обладнання. Споживчі ноутбуки можуть обробляти менші моделі; великим потрібна потужна GPU або орендований хмарний сервер.
Часті питання
Чи безкоштовний AI з відкритим кодом?
Завантаження моделі зазвичай безкоштовне, але ви все ще платите за електроенергію та обладнання (або хмарні обчислення), необхідні для його запуску. Комерційні ліцензії на деякі моделі можуть також вимагати плати за комерційне використання.
Чи можу я довіряти AI з відкритим кодом щодо безпеки?
Відкриті моделі можуть перевіряти будь-хто, що допомагає виявити проблеми, але будь-хто також може видалити захисні механізми. Безпека багато в чому залежить від того, наскільки ретельно ви розгорнули та налаштували модель для вашого конкретного випадку використання.
