Постоянно обучающийся искусственный интеллект продолжает расширять рынок полупроводников для хранения данных
- Несмотря на недавние призывы к замедлению темпов развития AI, технология непрерывного обучения, позволяющая искусственному интеллекту постоянно осваивать новую информацию, становится новым двигателем роста рынка полупроводников памяти.
- Международный инвестиционный банк Citi прогнозирует, что мировой спрос на HBM в следующем году вырастет на 62% по сравнению с текущим и достигнет 75,2 миллиарда Gb.
- Citi называет непрерывное обучение одной из основных причин стремительного роста спроса на HBM, анализируя, что по мере многократного проведения обучения и инференса увеличивается спрос не только на HBM, но также на серверную DRAM и корпоративные SSD.
- В настоящее время большинство генеративных AI работают по схеме предварительного обучения с последующим ответом, при которой новая информация не интегрируется автоматически в долгосрочные знания, что приводит к снижению эффективности.
- В рамках непрерывного обучения грань между обучением и инференсом становится размытой: цель состоит в том, чтобы AI мог обучаться новым данным и опыту в процессе предоставления услуг, объединяя их с уже имеющимися знаниями.
- Поскольку требуется постоянный доступ к уже существующим огромным массивам данных при одновременном обучении новым сведениям, необходима более высокая ёмкость памяти, и помимо HBM становится важным одновременное использование серверной DRAM и eSSD на базе NAND.
- Так как обучение происходит и в процессе инференса, одних высоких показателей пропускной способности недостаточно для устранения узких мест, поэтому спрос на такие технологии, как PIM (вычисления вблизи памяти), также может увеличиться.
- Samsung Electronics предложила zHBM — технологию непосредственного наслоения HBM на AI-ускорителе, тогда как SK hynix представила структуры PIM, SALT-KV и HBF, стремясь преодолеть ограничения существующей архитектуры GPU-HBM.
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
Tether выпустил дополнительные 500 миллионов долларов США USDT в сети Solana
Liying обсуждает криптовалюты: 9.20 - актуальный анализ рынка bitcoin (BTC) и ethereum (ETH)
Meta (META.US): Первая партия высокодоходных облигаций для соответствующего дата-центра получила по дписку более чем в четыре раза выше, высокий спрос способствовал выпуску с премией.
Первый выпуск высокодоходных облигаций от дата-центра, принадлежащего Meta Platforms, привлек спрос, превышающий объем сделки в четыре раза, а привлекательная доходность также заинтересовала инвесторов.
Цены на крипто
Далее
