Примірочна прогресу
Щойно презентоване поколiння серверних процесорiв AMD EPYC 9004 під кодовою назвою Genoa підтримує DDR5 та PCIe 5, стеля по ядрах на сокет стала вищою на 50% проти попередника Milan - до 96, в пiвтори рази побiльшало каналів пам'яті. Genoa (а також наступне поколiння Bergamo із 128 ядрами на сокет, заплановане на середину 2023) - це відповідь AMD на загрозу серверних процесорів Arm. Але, що добре гiперскейлерам, то зайве у локальних центрах обробки даних. Багато клієнтів не впровадять новi платформи - вони надмірні і як наслідок дорогі.
У продуктивності завжди є інший бік - ціна продуктивності. Наприклад, пам'ять DDR5 конструктивно складніша, ніж DDR4, на ній є управління живленням. Це, а також перехід на нове виробниче покоління, означає, що ціни DDR5 набагато вищi. Для Genoa кожен DIMM коштує на 50%+ більше, ніж у Milan з DDR4. Якщо заповнювати всi 12 каналiв пам'ятi против 8 у Milan, буде ще дорожче.
Можливо, найбільша різниця між цим запуском та попередніми зводиться до позиціонування. AMD не пропонує єдиний дизайн для всього ринку та не закликає переходити на нову платформу геть усiх. Натомість AMD матиме сегментні рішення. Багато клієнтів залишаться з Milan у наступному році. Для багатьох односокетних 16-32-ядерних серверів Genoa зайва.
Те саме можна спостерiгати на ринку графiчних процесорiв, де тон задає NVIDIA. Її нинішній топовий акселератор H100 (Hopper) для робочих навантажень високопродуктивних обчислень та штучного інтелекту прискорює навчання до 9 разів, інференс до 30 разів, додатки HPC до 7 разів, порівняно з попереднім поколінням A100 (Ampere). Але H100 втричі дорожчий за A100. Передовi нейромережеві тренери оцінять новинку - приріст їхньої продуктивності кратно перевищить здорожчання. Більшості корпоративних користувачів можливостей Ampere вистачає iз головою – тому NVIDIA не поспішає пересаджувати свої промислові лінійки на архітектуру Ada (в деякій мірі родич Hopper). Усi флагмани часiв Ampere (A100, A6000/A40, A5000/A30) залишаються у виробництві.
Раніше серверний ринок працював у режимі лінійного витіснення - планомірно і повністю переходив з одного покоління процесорів/платформ на нове, отримуючи поліпшенi можливостi (новий техпроцес, більше ядер і каналів пам'яті, вище частоту) приблизно за ціною старого заліза. Розпад ринку на сегменти з високим ступенем спеціалізації виправдовує одночасне співіснування платформ кількох поколінь. Користувачі не поспішають приміряти на себе обіцяний приріст продуктивності та переплачувати за умоглядні поліпшення в обраних додатках – бо вони не співвідносяться з їхніми власними навантаженнями. За що платити більше та чому треба міняти шило на мило? Наприклад, ніколи раніше серверний ринок не саботував перехід так, як зміну Intel Xeon Scalable другого (Cascade Lake) на третє (Ice Lake) покоління.
В економіці із затягнутими поясами інакше й не повинно бути. Будь-які капітальні витрати мають бути виправдані виразною моделлю окупності. Мода модою, але ми носимо те, що підходить за розміром.