Morgan Stanley: KI-Speichermangel wird noch Jahre andauern – Drei Wege zur Lösung, strukturelle Chancen für Speicher und heterogene Rechenleistung

Das Finanzportal Smart News berichtet, dass Morgan Stanley in seinem Branchenbericht zum Halbleitersektor darauf hinweist, dass der Mangel an DRAM-Speicher sich durch den gesamten AI-Industriezyklus ziehen wird und der Ausbau der AI-Rechenleistung nicht auf den Bau neuer Wafer-Fabriken wartet. Die Branche umgeht das Speicher-Bottleneck über drei technische Wege: Hardware-Downsizing, Entkopplung von Inferenzarchitekturen und CXL-Speicherpooling – und treibt den Ausbau der Rechenleistung trotz Angebotsrestriktionen stetig voran. Das Institut bleibt optimistisch für Micron (MU.US), SanDisk (SNDK.US) und andere Speicherführer und sieht zusätzliche Chancen im Bereich CXL-Verbindungstechnik sowie heterogenen Inferenzwegen. Es empfiehlt Astera Labs (ALAB.US), Marvell (MRVL.US), Cerebras (CBRS.US) sowie Nvidia (NVDA.US).

Morgan Stanley betont, dass der derzeitige Mangel an AI-Speicher kein kurzfristiges Phänomen ist, sondern ein strukturelles Problem: Die Steigerung der Rechenleistung übertrifft das Tempo des Speicherwachstums deutlich. Die Größe fortschrittlicher Large Language Models verdoppelt sich alle sechs Monate, die Kontextfenster der führenden Modelle wachsen jährlich um das 5- bis 6-fache, und mit der steigenden Nachfrage nach paralleler Inferenz explodieren die Anforderungen an Speicher-Kapazität und -Bandbreite. Da der Bau einer DRAM-Fabrik Jahre dauert und das Angebot nur geringfügig flexibel ist, wird der Mangel voraussichtlich jahrelang bestehen bleiben. Nvidia-CEO Jensen Huang erklärte öffentlich, die Branche müsse durch architektonische Innovation auf die Speicherbeschränkung reagieren, anstatt ausschließlich auf Kapazitätserweiterung zu setzen.

Angesichts der Verknappung von HBM- und Hauptspeicher ist die direkteste Antwort der Branche das selektive Senken der Spezifikationen einzelner Geräte (De-speccing). Am Beispiel von Nvidias Rubin-Architektur wurde die LPDDR5-Kapazität pro System von ursprünglich geplanten 54TB auf 28TB verringert, die HBM-Kapazität pro GPU von 288GB auf 192GB reduziert – durch weniger Speicherstapel bleibt das gesamte Liefervolumen erhalten. Morgan Stanley stellt klar, dass Downsizing nicht das Speicher-Bottleneck behebt, sondern den Druck zwischen den Speicherebenen verlagert: Nach der Kürzung des schnellen lokalen Speichers werden weniger häufig benötigte Daten wie KV-Caches in NAND ausgelagert, und der Datenverkehr zwischen GPUs nimmt zu, wodurch die Nachfrage nach Netzwerkbandbreite steigt. Im Kern gleicht man knappen hochbandbreiten Speicher durch schnellere Netzwerkverbindungen und günstigere Storage-Ressourcen aus.

Der zweite Lösungsweg ist die Entkopplung der Inferenzarchitektur (Disaggregation). AI-Inferenz besteht aus den sehr unterschiedlichen Phasen Prefill und Decode: Prefill fordert vor allem Rechenleistung, Decode ist hochgradig von Speicherbandbreite abhängig. Traditionell erledigt derselbe Beschleuniger beide Aufgaben, was die Ressourcennutzung mindert. Die Branche setzt nun verstärkt auf heterogene Inferenz und trennt beide Phasen auf verschiedene Hardware: Die rechenintensive Prefill-Phase übernimmt die klassische GPU, während die bandbreitenhungrige Decode-Phase von spezialisierten Chips mit großem On-Chip-SRAM erledigt wird.

Typische Vertreter wie der wafergroße Engine von Cerebras und die von Nvidia übernommene Groq LPU-Architektur bieten im Decode-Bereich deutlich mehr Speicherbandbreite als herkömmliche GPUs. Morgan Stanley sieht heterogene Inferenz als wichtigen Entwicklungstrend für die Infrastruktur im AI-Bereich und rechnet mit klaren Wachstumschancen für Rechenleistungsanbieter, die sich auf den Decode-Schritt spezialisieren.

Der dritte Weg ist die Neugestaltung des Speichersystems durch CXL-Technologie. CXL (Compute Express Link) erweitert, teilt und poolt Speicher über schnelle Verbindungen, sodass Speicher nicht mehr an einen einzigen Prozessor gebunden ist – dies ist der zentrale Technikpfad, um die Kapazitätsbeschränkungen zu überwinden. Morgan Stanley prognostiziert, dass die AI-Nachfrage den Markt für CXL und zugehörige Speicherzusatzchips bis 2030 auf etwa 6 Milliarden US-Dollar bringen wird, was die Größe des klassischen CPU-Speichererweiterungsmarktes deutlich übertrifft. Der Wert liegt im Aufbau einer gestuften Speicherarchitektur: Daten mit der höchsten Zugriffshäufigkeit bleiben im HBM, weniger häufig genutzte Daten gelangen in den CXL-Speicherpool, seltene, kalte Daten werden in NAND ausgelagert – die Kostenstruktur passt zum Zugriffsfrequenzprofil.

Beim Investment-Schwerpunkt bekräftigt Morgan Stanley drei Hauptlinien: Erstens die Übergewichtung von Micron und SanDisk, da das Downsizing aus Angebotsmangel und nicht schwacher Nachfrage resultiert und der langfristige AI-Speicherbedarf weiter steigt – das Angebotsdefizit wird durch Kapazitätserweiterung absorbiert; zweitens die Positionierung bei den CXL- und Scale-up-Verbindungsführern Astera Labs und Marvell; drittens der Fokus auf Profiteure heterogener Inferenz wie Cerebras, und Nvidia, das durch die Übernahme von Groq seine heterogene Strategie ausbaut.

Risiko-Hinweis: Das Wachstum der Nachfrage nach AI-Rechenleistung bleibt hinter Erwartungen zurück; die Markteinführung von CXL-Technologie verzögert sich; die Erweiterung der Speicherproduktion übertrifft die Erwartungen.