Отчёт: Nvidia планирует снизить конфигурацию памяти Rubin Ultra в ответ на дефицит высококлассной HBM

Бум AI-инфраструктуры приближается к пределам возможностей цепочки поставок.

По данным The Information, Nvidia рассматривает довольно радикальную корректировку — выпуск версии следующего поколения AI GPU Rubin Ultra с объемом видеопамяти ниже изначально запланированного, чтобы смягчить давление на массовое производство из-за нехватки высокопроизводительной памяти с высокой пропускной способностью (HBM).

Это означает, что даже владеющая доминирующей позицией на рынке GPU Nvidia вынуждена искать баланс между спецификациями продукта и своими поставочными возможностями.

Эти изменения не только показывают, что дефицит HBM стал одним из важнейших узких мест в цепочке создания стоимости AI, но и указывают на возможное дальнейшее увеличение стоимости AI-серверов, а также на то, что давление на развитие центров обработки данных продолжит передаваться на нижестоящие звенья.

В четверг акции Nvidia закрылись с падением на 0,1%, акции SK hynix снизились на 4,97%.

Дефицит HBM: Nvidia тестирует несколько версий с уменьшенной видеопамятью

По словам осведомленных источников, за последние недели Nvidia уже протестировала по меньшей мере три различные версии GPU Rubin Ultra, некоторые из которых имеют объем видеопамяти ниже, чем было запланировано изначально.

Одной из основных причин, по которым Nvidia рассматривает выпуск версии с уменьшенной видеопамятью, является возможная нехватка необходимого количества высококачественных чипов HBM для поддержки массового производства согласно первоначальному замыслу.

Rubin Ultra является ключевой частью следующей генерации вычислительной AI-платформы Nvidia, занимает позицию выше, чем грядущая серия Rubin, и рассматривается как важнейший аппаратный ресурс для будущих обучающих процессов сверхмасштабных AI-моделей. Согласно изначальному плану, он должен был оснащаться HBM с большим объемом и пропускной способностью для дальнейшего повышения производительности обучения и инференса моделей.

Однако на фоне сохраняющейся напряженности с поставками HBM Nvidia пересматривает спецификации продукта, рассчитывая путем корректировки объема видеопамяти обеспечить своевременный запуск продукта на рынок, а не ожидать расширения поставочных мощностей в цепочке поставок.

Сокращение видеопамяти означает, что потребуется больше GPU

Для обучения AI HBM определяет не только пропускную способность данных на GPU, но и напрямую влияет на максимальный размер размещаемой модели.

Если Rubin Ultra в результате будет поставляться с пониженным объемом видеопамяти, заказчикам может понадобиться развернуть большее количество GPU для выполнения таких же вычислительных задач для больших языковых моделей и других крупных AI-нагрузок, которые прежде можно было решить меньшим числом чипов.

Хотя Nvidia способна частично компенсировать потери производительности за счет увеличения вычислительной мощности GPU и оптимизации межсоединительной пропускной способности, в целом стоимость развертывания систем и сложность кластера, скорее всего, возрастут.

Для крупных облачных провайдеров, таких как Microsoft, Meta, Amazon, Google, которые продолжают наращивать капитальные вложения в AI, это означает дальнейшее увеличение стоимости строительства дата-центров в будущем.

Бум AI выявил главное узкое место отрасли

На сегодняшний день HBM стала одним из наиболее дефицитных и ценных компонентов цепочки создания стоимости AI.

В последние годы стремительно увеличился спрос на обучение больших моделей, что вызвало постоянный рост поставок GPU. Основные производители необходимых для них HBM — это Samsung Electronics, SK hynix и Micron, и их немного. Из-за высокой сложности производства HBM, строгих требований по выходу годных чипов и длительных циклов расширения мощностей рост предложения всегда отстает от AI-спроса.

В отрасли широко ожидается, что в ближайшие несколько лет дефицит HBM сохранится, что является одной из основных причин сохраняющихся высоких цен на AI-серверы.

Тот факт, что даже Nvidia принимает решение снизить спецификации видеопамяти Rubin Ultra, также свидетельствует о том, что, несмотря на самые сильные переговорные возможности в цепочке поставок, их планы по продукту в любом случае ограничены доступностью HBM.

Давление издержек распространяется на всю технологическую отрасль

Влияние роста цен на HBM уже вышло за рамки только AI-серверов.

Поскольку такие ключевые компоненты, как GPU и HBM, продолжают оставаться в дефиците, затраты на оборудование для всего технологического сектора увеличиваются. Бюджеты компаний на приобретение AI-инфраструктуры неизменно растут, все больше предприятий вынуждены повышать капитальные затраты для удовлетворения потребностей в генеративном AI.

В то же время рост затрат на чипы в верхних звеньях цепочки начал передаваться и в сегмент потребительской электроники. Некоторые производители аппаратного обеспечения, в том числе Apple, уже компенсируют давление по издержкам в цепочке поставок за счет повышения цен на конечные продукты.

По мнению участников рынка, пока спрос на вычислительные мощности AI продолжает быстро расти, а темпы ввода новых производственных мощностей по HBM ограничены, конкурентная борьба за высокопроизводительные ресурсы памяти останется напряженной, а способность поставок HBM будет и далее основным фактором, определяющим темпы экспансии AI-отрасли.