H200 NVL, остання прима модульних серверів
Розвиток AI змінює обчислювальну базу шаленими темпами. Модульну архітектуру NVIDIA MGX для прискорених серверів було презентовано три роки тому. Позаторік світ побачив перші багатографічні системи на старших на той момент PCIe-прискорювачах H200 NVL архітектури Hopper з 141ГБ HBM3e. В одному сервері можуть встановлюватися вісім таких GPU. Чотири карти, поєднані 4-way NVLink, утворюють спільний пул із 564 ГБ HBM3e та забезпечують пропускну здатність обміну між GPU до 1,8 ТБ/с, без додаткової комутації.
Сучасним призначенням серверів multi-GPU з дискретними прискорювачами на шині PCIe NVIDIA вважає агентний AI, візуальні обчислення, моделювання, роботу з малими та середніми LLM. Називаючи цей клас систем RTX PRO AI Factory, NVIDIA пропонує для нього професійні Blackwell-прискорювачі з пам’яттю GDDR7, зокрема флагманські RTX PRO 6000 Blackwell Server Edition із 96 ГБ GDDR7 ECC.
Для високопродуктивних масштабованих AI-систем NVIDIA просуває платформу HGX B200 на базі архітектури Blackwell із пам’яттю HBM3e. HGX-системи постачаються як цілісні сервери - на відміну від модульних MGX на універсальних PCIe-картах, які виробник може комбінувати із серверною платформою на свій розсуд. Спеціалізована базова плата HGX містить вісім потужних GPU форм-фактору SXM, об’єднаних NVLink 5 через комутатори NVSwitch.
HGX залишає менше простору для довільної конфігурації, натомість висуваючи високі вимоги до всієї інфраструктури - CPU, мережі, живлення, охолодження та системного керування. Саме тут починається територія великих AI-фабрик, із дорогим вхідним квитком.
H200 NVL на архітектурі Hopper може здаватися минущим явищем. Водночас це остання можливість поєднати відносну свободу конфігурації PCIe з перевагами великої пам’яті HBM3e, об’єднавши до чотирьох PCIe-прискорювачів у високошвидкісний NVLink-домен. Не передова AI-платформа, але й не відстала. Це зрілий компроміс, економічна доцільність якого визначається ціною та конкретним навантаженням.
Класова нерівність
Отже, NVIDIA HGX B200 має:
- 8 × NVIDIA B200
- 180 ГБ HBM3e на кожен GPU
- 8 × 180 ГБ = 1,440 ГБ разом
- NVLink 5 з NVSwitch на всі 8 GPU
«Аналогічний» сервер з H200 NVL:
- До 8 × NVIDIA H200 NVL
- 141 ГБ HBM3e на кожен GPU
- 8 × 141 ГБ = 1,128 ГБ разом
- Два NVLink -домени по 4 GPU в кожному
Сервер класу RTX PRO AI Factory:
- До 8 × NVIDIA RTX PRO 6000 Blackwell
- 96 ГБ GDDR7 на кожен GPU
- 8 × 96 ГБ = 768 ГБ разом
- Усі обміни між GPU – по шині PCIe Gen 5
На відміну від HGX, MGX-системи можна конфігурувати з меншою кількістю GPU.
А що по цінах?
Кошторис рішення HGX B200 важко оцінити – такі сервери не продаються покомпонентно, а цінова політика вендорів готових систем є закритою, залежною від масштабу закупівель. Зустрічаються поодинокі пропозиції базових плат HGX B200 у діапазоні $450-600K. Що з ними робити далі, незрозуміло, але у якості цінового орієнтира цю вартість можна прийняти. Ймовірно, повноцінний сервер HGX B200, оснащений центральними процесорами, оперативною пам’яттю та накопичувачами коштуватиме ближче до $1M.
Серверна платформа з вісьмома H200 NVL, без CPU, RAM та накопичувачів, обходиться у $300-350K. Така сама платформа з вісьмома RTX PRO 6000 SE – у $150-200K.
Повноцінний сервер з чотирма H200 NVL коштує від $250K.
Висновок
NVIDIA позиціонує багатографічні сервери на PCIe-прискорювачах RTX PRO 6000 Blackwell Server Edition як універсальну платформу для рядових корпоративних AI-систем - від LLM-інференсу та AI-агентів до візуальних обчислень, наукових задач і симуляцій.
Якщо є мільйон доларів і відповідні навантаження, можна придивлятися до передових систем класу HGX B200 — це вже інфраструктура для масштабних AI-обчислень із зовсім іншими вимогами до мережі, живлення та охолодження.
H200 NVL поєднує високу продуктивність інференсу й навчання моделей із можливістю поступового нарощування GPU-конфігурації.