Що таке чип штучного інтелекту і чому GPU настільки важливі?
ЧІ-чипи — це спеціалізовані процесори, які роблять можливим машинне навчання, а GPU став стандартним рішенням тому, що його конструкція ідеально відповідає тому, що потрібно для навчання ШІ.
ЧІ-чип — це будь-який процесор, створений або адаптований для швидкого та дешевого виконання математичних операцій машинного навчання. GPU, або графічні процесори, домінують у цій сфері, оскільки можуть одночасно виконувати тисячі невеликих обчислень, що є саме тим, що потрібно штучному інтелекту.
Що насправді робить ЧІ-чип?
Він виконує матричні множення — просто перемножує сітки чисел у величезних обсягах. Майже кожна операція ШІ, від розпізнавання обличчя до прогнозування наступного слова в реченні, зводиться до мільярдів таких множень, що відбуваються послідовно.
Звичайний чип для ноутбука (CPU, або центральний процесор) виконує завдання по одному, як блискучий хірург, що робить одну операцію за раз. GPU обробляє тисячи простіших завдань паралельно, як цех з тисячами робітників на одній зміні. Навчання ШІ — це робота цеху, а не хірургія.
Чому GPU став стандартним чипом для ШІ?
GPU спочатку були створені для відеоігор, де мільйони пікселів потрібно перерисовувати одночасно. ця ж паралельна структура виявилася ідеальною для матричної математики всередині нейронних мереж, які є моделями ШІ, дещо натхненими тим, як з'єднуються клітини мозку.
Переломний момент настав у 2012 році, коли дослідники використали GPU NVIDIA, щоб переконливо виграти змаганння з розпізнавання зображень, результат який задав напрямок для дослідження глибокого навчання. Після цього галузь просто ніколи не повернулася назад.
Чи GPU — це єдині доступні ЧІ-чипи?
Ні, з'явилося кілька інших типів чипів, кожен з яким підходить під проблему по-своєму. Google створив власні чипи під назвою TPU (тензорні процесори) спеціально для ШІ, і вони забезпечують більшість внутрішніх робіт Google з ШІ. Apple вбудовує Neural Engine у свої чипи M-series для завдань ШІ на пристрої, таких як Face ID і автозаповнення. Стартапи на кшталт Cerebras і Graphcore розробили чипи, які переосмислюють архітектуру з нуля.
| Тип чипу | Виробник | Найкраще підходить для | Де ви з ним зустрічаєтесь |
|---|---|---|---|
| GPU | NVIDIA, AMD | Навчання великих моделей | Хмарні сервери, дослідницькі лабораторії |
| TPU | ШІ-висновування масштабу Google | Google Search, Google Cloud | |
| Neural Engine | Apple | Завдання ШІ на пристрої | iPhone, Mac |
| NPU (Neural Processing Unit) | Qualcomm, Intel та інші | Низькоенергетичний мобільний ШІ | Телефони Android, ноутбуки Windows |
| Спеціалізована ASIC | Різні стартапи | Конкретні навантаження ШІ | Центри обробки даних |
ASIC розшифровується як інтегральна схема спеціального призначення, що просто означає чип, розроблений для однієї задачі і нічого більше.
Чому пропозиція чипів так важлива для ШІ-індустрії?
Навчання великої моделі ШІ вимагає запуску тисяч чипів протягом тижнів або місяців. Коли пропозиція чипів скорочується, прогрес сповільнюється, а вартість зростає. GPU NVIDIA H100 став найбільш обговорюваним продуктом в індустрії, оскільки кожній лабораторії ШІ одночасно потрібна була велика кількість цих чипів, а їх не було достатньо.
Ця концентрація також важлива геополітично. Більшість передових чипів виробляються TSMC на Тайвані, що зробило пропозицію чипів темою для торговельної політики та положень про контроль експорту.
Що це означає для звичайного користувача?
Для більшості людей ЧІ-чипи — це невидима інфраструктура, як турбіни позаду вашої електроенергії, які ви ніколи не бачите. Реальний приклад: коли ви задаєте питання чат-боту, ваші слова подорожують до центру обробки даних, де GPU-кластери обробляють запит і відправляють назад відповідь, зазвичай менш ніж за дві секунди.
Питання про чипи стає видимим, коли ви купуєте новий телефон або ноутбук. Пристрої з виділеним NPU або Neural Engine можуть запускати функції ШІ локально, означає, що ваші дані ніколи не покидають пристрій, що є справжнією перевагою конфіденційності. На телефоні без такого чипу те саме завдання відправляється на хмарний сервер, де комп'ютери когось іншого його обробляють.
Скільки коштують ЧІ-чипи?
Ціни варіюються величезно. Сервер-карта NVIDIA H100 коштує приблизно від 25 000 до 40 000 доларів США за одиницю в роздрібній торгівлі, а повна стійка сервера з десятками з них коштує мільйони. GPU споживчого класу, як NVIDIA RTX 4090, коштують близько 1 500–2 000 доларів і можуть запускати менші моделі ШІ дома.
Хмарні провайдери дають доступ у найм за годину, тому приватні особи та невеликі компанії можуть використовувати високотехнологічне обладнання ШІ без його придбання. Google, Amazon та Microsoft усі пропонують час GPU і TPU через свої хмарні платформи з безплатними або пробними версіями для легкого використання.
Поширені питання
Чи GPU те саме, що ЧІ-чип?
Не зовсім. GPU — це один тип ЧІ-чипа, найпоширеніший, але ЧІ-чип — це ширша категорія, яка включає TPU, NPU та спеціалізовані процесори. Усі GPU можуть виконувати роботу ШІ, але не всі ЧІ-чипи — це GPU.
Чи робить кращий ЧІ-чип ШІ розумнішим?
Більш швидкий чип робить навчання ШІ швидшим і робить відповіді швидшими, але це не робить модель автоматично більш точною або розумною. Якість моделі ШІ залежить від її конструкції, даних для навчання та налаштування, а не лише від швидкості чипу.
Чи мені потрібно турбуватися про те, який чип у моєму телефоні або ноутбуці для завдань ШІ?
Так, якщо для вас важлива конфіденційність. Пристрій з виділеним Neural Engine або NPU може запускати багато функцій ШІ локально без надсилання ваших даних на сервер, тоді як пристрої без нього зазвичай покладаються на хмарну обробку для тих же завдань.
