Morgan Stanley: Tình trạng thiếu bộ nhớ AI sẽ kéo dài trong nhiều năm, ba hướng giải quyết, lưu trữ và sức mạnh tính toán dị thể đón nhận cơ hội cơ cấu

Theo thông tin từ ứng dụng tài chính Zhihui Tài chính, Morgan Stanley đã phát hành báo cáo nghiên cứu ngành bán dẫn, chỉ ra rằng tình trạng thiếu DRAM sẽ diễn ra xuyên suốt chu kỳ phát triển AI lần này, và sự mở rộng năng lực tính toán AI sẽ không chờ đến khi các nhà máy wafer mới được xây dựng và đi vào sản xuất. Ngành công nghiệp đang sử dụng ba lộ trình công nghệ chính là giảm cấu hình phần cứng, giải ghép kiến trúc suy luận và pool bộ nhớ CXL để vượt qua nút thắt bộ nhớ, tiếp tục thúc đẩy xây dựng năng lực tính toán dưới sự giới hạn về cung ứng. Ngân hàng này tiếp tục đánh giá cao các ông lớn lưu trữ như Micron (MU.US), SanDisk (SNDK.US), đồng thời lạc quan về cơ hội tăng trưởng ở lĩnh vực interconnect CXL và suy luận dị thể, đề xuất Astera Labs (ALAB.US), Marvell (MRVL.US), Cerebras (CBRS.US) và Nvidia (NVDA.US).

Morgan Stanley nhấn mạnh rằng, hiện tại tình trạng thiếu hụt bộ nhớ AI không phải là biến động ngắn hạn, mà là mâu thuẫn mang tính kết cấu khi tốc độ tăng trưởng năng lực tính toán vượt xa tốc độ cung cấp bộ nhớ. Các mô hình lớn tiên tiến cứ mỗi 6 tháng lại tăng gấp đôi quy mô, tốc độ tăng trưởng hàng năm của cửa sổ ngữ cảnh ở các mô hình dẫn đầu đạt 5-6 lần, cộng với nhu cầu suy luận song song liên tục gia tăng khiến nhu cầu về dung lượng và băng thông bộ nhớ bùng nổ mạnh mẽ. Trong khi đó, chu kỳ xây dựng nhà máy DRAM kéo dài nhiều năm, khả năng linh hoạt cung ứng cực thấp, do đó tình trạng thiếu hụt này sẽ còn kéo dài nhiều năm. CEO Nvidia Huang Renxun cũng công khai cho biết ngành công nghiệp cần thay đổi tư duy, ứng phó với giới hạn bộ nhớ thông qua đổi mới kiến trúc thay vì chỉ chờ đợi mở rộng sản lượng.

Trước tình trạng thiếu hụt nghiêm trọng của HBM và bộ nhớ chính, cách ứng phó trực tiếp nhất của ngành là lựa chọn giảm cấu hình bộ nhớ trên mỗi thiết bị (De-speccing). Lấy kiến trúc Rubin của Nvidia làm ví dụ, dung lượng LPDDR5 trên mỗi máy từ kế hoạch ban đầu 54TB được giảm xuống còn 28TB, dung lượng HBM trên mỗi GPU từ 288GB giảm còn 192GB, thông qua giảm chiều cao xếp chồng bộ nhớ để đảm bảo sản lượng toàn hệ thống. Morgan Stanley chỉ ra rằng, việc giảm cấu hình không loại bỏ nút thắt bộ nhớ mà chỉ chuyển áp lực giữa các tầng bộ nhớ: sau khi cắt giảm bộ nhớ cục bộ tốc độ cao, các dữ liệu không thường xuyên như cache KV sẽ được chuyển xuống lưu trữ NAND, đồng thời tăng mức độ trao đổi dữ liệu liên GPU, từ đó kích thích nhu cầu băng thông interconnect mạng. Về bản chất, đây là việc bổ sung bộ nhớ băng thông cao khan hiếm thông qua mạng interconnect tốc độ cao hơn và tài nguyên lưu trữ chi phí thấp hơn.

Lộ trình đột phá thứ hai là giải ghép kiến trúc suy luận (Disaggregation). Suy luận AI gồm hai giai đoạn khác biệt rõ rệt: Prefill chủ yếu tiêu thụ năng lực tính toán, còn Decode phụ thuộc mạnh vào băng thông bộ nhớ. Kiến trúc truyền thống sử dụng cùng một bộ tăng tốc để xử lý cả hai nhiệm vụ khiến hiệu suất khai thác tài nguyên không cao. Hiện nay, ngành công nghiệp đang đẩy nhanh tiến trình suy luận dị thể, phân tách hai giai đoạn này cho phần cứng khác nhau: Prefill đòi hỏi tính toán sẽ do GPU đa năng đảm nhiệm, còn Decode đòi hỏi băng thông bộ nhớ lớn sẽ do chip tăng tốc chuyên dụng có trang bị bộ nhớ SRAM dung lượng lớn xử lý.

Đại diện điển hình bao gồm bộ xử lý wafer-level engine của Cerebras, kiến trúc Groq LPU được Nvidia mua lại, đều cung cấp hiệu suất băng thông bộ nhớ vượt trội so với GPU truyền thống trong giai đoạn decode. Morgan Stanley cho rằng suy luận dị thể sẽ trở thành xu hướng tiến hóa quan trọng của hạ tầng AI, các công ty chuyên về tính toán decode sẽ mở rộng được thị trường rõ rệt.

Lộ trình thứ ba là công nghệ CXL tái cấu trúc hệ thống bộ nhớ. CXL (interconnect tốc độ cao cho điện toán) cho phép mở rộng, chia sẻ và pool bộ nhớ thông qua kết nối tốc độ cao, giúp bộ nhớ không còn bị ràng buộc với từng bộ xử lý riêng lẻ, trở thành lộ trình công nghệ cốt lõi để vượt qua giới hạn dung lượng bộ nhớ. Morgan Stanley ước tính, nhu cầu AI sẽ thúc đẩy quy mô thị trường CXL và chip bộ nhớ liên quan đạt khoảng 6 tỷ đô la Mỹ vào năm 2030, vượt xa quy mô thị trường mở rộng bộ nhớ CPU truyền thống. Giá trị cốt lõi của CXL là xây dựng kiến trúc bộ nhớ phân tầng: dữ liệu tần suất truy cập cao nhất giữ lại ở HBM, tần suất tiếp theo đặt tại pool bộ nhớ CXL, còn dữ liệu lạnh, tần suất thấp sẽ được chuyển xuống NAND, nhờ vậy tối ưu hóa chi phí theo tần suất truy cập dữ liệu.

Về hướng đầu tư chính, Morgan Stanley tái khẳng định ba hướng lớn: Một là tiếp tục tăng tỷ trọng Micron, SanDisk, việc giảm cấu hình xuất phát từ thiếu hụt cung ứng chứ không phải nhu cầu suy yếu, nhu cầu bộ nhớ AI tăng trưởng lâu dài, thiếu hụt cung sẽ tiếp tục tiêu hóa công suất sản xuất; Hai là triển khai các doanh nghiệp dẫn đầu về interconnect CXL và scale-up như Astera Labs, Marvell; Ba là chú trọng các công ty hưởng lợi từ xu hướng suy luận dị thể như Cerebras, cùng với Nvidia đã hoàn thiện mảng dị thể nhờ mua lại Groq.

Cảnh báo rủi ro: Tốc độ tăng trưởng nhu cầu năng lực tính toán AI không đạt như kỳ vọng; tiến độ thương mại hóa công nghệ CXL chậm hơn dự kiến; năng lực sản xuất bộ nhớ mở rộng vượt dự báo.