Microsoft встановлює новітні чипи AMD в Azure для вирішення проблеми обчислювального навантаження AI
Три нові типи віртуальних машин з'являються у хмарі Microsoft, кожна побудована на базі новітніх процесорів AMD та призначена для вирішення різних аспектів завдання AI.
Ключові моменти
- Microsoft анонсувала три нові типи віртуальних машин Azure в 2025 році, усі побудовані на новітніх технологіях процесорів AMD.
- Віртуальні машини HDv2 мають майже 500 ядер CPU та 4 терабайти ОЗУ, призначені для живлення даних великим системам навчання та агентам AI.
- Віртуальні машини HXv2 досягають частот вище 5 ГГц і мають на 50 відсотків більше кеш-пам'яті на ядро, ніж попереднє покоління, орієнтовані на розробників чипів.
- Віртуальна машина ND MI455X v7 використовує стійкову систему AMD Helios для запуску AI інференції, етапу, на якому готова модель AI відповідає реальним запитам користувачів.
- CTO AMD Марк Пейпермастер підтвердив, що AMD сама використовує машини Azure HX для проектування майбутніх чипів EPYC та Instinct.
У хмарі закінчується місце. Більше моделей AI, більше програмних агентів, які діють від імені користувачів, та невгамовний попит на обчислювальну потужність створили тиск на всі рівні інфраструктури. Відповідь Microsoft, оголошена в офіційному блозі Microsoft AI, — це три нові варіанти віртуальних машин Azure, кожна побудована на базі новітнього кремнію AMD.
Думайте про віртуальну машину як про комп'ютер, що здається в оренду та знаходиться всередині масивного центру обробки даних Microsoft. Ви платите за те, що використовуєте, а Microsoft займається фізичним обладнанням. Нові машини надають компаніям різні інструменти для різних завдань.
Живильник даних: Azure HDv2
Моделі AI навчаються на даних, а агенти, тобто програмне забезпечення AI, яке виконує багатоступінчасті завдання від імені користувача, потребують постійного їх постачання. HDv2 існує, щоб утримувати цей конвеєр у тонусі. Він використовує процесори 6-го покоління EPYC від AMD, сімейство серверних чипів з високою кількістю ядер, та вміщує майже 500 ядер, 4 терабайти ОЗУ та 32 терабайти швидкого локального сховища в одну віртуальну машину. Це велика обчислювальна потужність, повністю присвячена переміщенню та організації інформації.
Робочий конь розробника чипів: Azure HXv2
Проектування нового процесора вимагає моделювання мільярдів транзисторів у програмному забезпеченні, перш ніж буде виготовлений єдиний шматок кремнію. Це моделювання є надзвичайно вимогливим. HXv2 орієнтована саме на таких клієнтів, використовуючи технологію 3D V-Cache від AMD, хитрість, яка складає додаткову пам'ять безпосередньо на вершину процесора, щоб скоротити час подорожі даних, та підштовхує частоту вище 5 ГГц. Попередні машини HX, запущені в 2023 році, вже привернули фірми з проектування кремнію; HXv2 йде далі з 50 відсотками більше адресної кеш-пам'яті на ядро та до 4 терабайтів ОЗУ. Сама AMD використовує серію HX для проектування своїх власних чипів наступного покоління.
Рушій інференції: ND MI455X v7
Інференція — це момент, коли готова модель AI робить свою фактичну роботу: відповідає на питання, генерує зображення, виконує пошук. ND MI455X v7 використовує стійкову платформу AMD Helios, систему, яка з'єднує кілька процесорів на всій серверній стійці, для обробки цієї роботи у виробничому масштабі.
Що це означає для звичайних користувачів?
Безпосередньо у ваших повсякденних додатках нічого не змінюється. Але компанії, які створюють ці додатки, тепер мають більше можливостей для запуску AI дешевше та ефективніше, що з часом, як правило, означає швидші відповіді та нижчі витрати, передані клієнтам. Для підприємств, які розробляють власні інструменти AI на Azure, ці машини пропонують більш спеціалізовані варіанти, замість того щоб примусити кожне завдання загального призначення на одне обладнання.
