Marvell ra mắt bộ mở rộng bộ nhớ CXL thế hệ thứ hai, hỗ trợ tối đa 9TB bộ nhớ DDR4

Marvell đang mở rộng giải pháp bộ nhớ với dung lượng lớn hơn và băng thông cao hơn, hướng tới nhu cầu gia tăng từ việc nâng cấp cơ sở hạ tầng AI suy luận.

Theo Bloomberg, ngày 12 tháng 10, Marvell chính thức ra mắt Structera X 3406 và 3506 CXL thế hệ thứ hai. Công ty cho biết đây là bộ mở rộng bộ nhớ CXL 3.2 đầu tiên trong ngành với sáu kênh, một bộ điều khiển có thể hỗ trợ tối đa 9TB DDR4 hoặc 6TB DDR5, số lượng kênh bộ nhớ tăng 50% so với thế hệ trước. Hai sản phẩm dự kiến sẽ cung cấp mẫu cho khách hàng từ quý đầu tiên năm 2027.

Việc ra mắt lần này nhằm đáp ứng "nút cổ chai" bộ nhớ ngày càng nổi bật trong các tải công việc AI suy luận. Khi mô hình ngôn ngữ lớn (LLM) mở rộng quy mô, cửa sổ ngữ cảnh kéo dài và nhu cầu KV cache tăng nhanh, kiến trúc máy chủ truyền thống bị áp lực lớn về dung lượng và băng thông bộ nhớ, khiến bộ nhớ trở thành yếu tố then chốt ảnh hưởng đến hiệu suất AI và hiệu quả cơ sở hạ tầng.

Các doanh nghiệp như AMD, Arm, Alibaba, Samsung và SK hynix đều bày tỏ sự ủng hộ đối với sản phẩm mới và hợp tác hệ sinh thái liên quan.

Nâng cấp công nghệ cốt lõi: Nhiều kênh hơn, dung lượng lớn hơn

Structera X 3406 và 3506 dựa trên nền tảng sản phẩm thế hệ trước và đã được nâng cấp về số lượng kênh bộ nhớ, dung lượng mở rộng và hiệu suất nén.

Về cấu hình bộ nhớ, cả hai sản phẩm đều hỗ trợ sáu kênh bộ nhớ. Trong đó, 3406 hỗ trợ 18 khe DDR4 RDIMM, dung lượng tối đa đạt 9TB; 3506 hỗ trợ 12 khe DDR5 RDIMM, dung lượng tối đa là 6TB. Về kết nối máy chủ, cả hai sản phẩm đều cho phép tối đa bốn máy chủ chia sẻ tài nguyên bộ nhớ, băng thông kết nối lên đến 256GB/s, sử dụng giao diện PCIe 6.0 x16.

Về hiệu suất nén, sản phẩm mới tích hợp động cơ nén LZ4, tốc độ nén và giải nén tối đa đạt 250GB/s, cao gấp 5 lần thế hệ trước, có thể mở rộng dung lượng bộ nhớ hiệu quả lên 2-3 lần so với ban đầu.

Marvell cho biết trong các tình huống suy luận mô hình ngôn ngữ lớn, sản phẩm mới có thể rút ngắn thời gian phản hồi byte đầu tiên (TTFT) từ 40% đến 50% với cùng độ dài ngữ cảnh; với mô hình đề xuất học sâu (DLRM), số lượng truy vấn mỗi giây của một bộ điều khiển có thể tăng gấp đôi so với trước, dung lượng hiệu quả của bảng nhúng cũng có thể tăng lên 2-3 lần.

Nhắm đến trung tâm dữ liệu quy mô cực lớn, mở rộng hợp tác hệ sinh thái

Marvell cho biết, Structera X thế hệ thứ hai tiếp tục sử dụng phần mềm và giải pháp tích hợp hệ sinh thái của các sản phẩm 2404/2504 thế hệ đầu tiên đã được xuất hàng cho khách hàng trung tâm dữ liệu quy mô cực lớn, nhằm thúc đẩy quá trình đưa sản phẩm mới đến khách hàng nhanh hơn.

Nhiều đối tác trong ngành đã công khai ủng hộ. Phó chủ tịch doanh nghiệp AMD Raghu Nambiar cho biết sự hợp tác giữa hai bên dựa vào hiệu suất và tính mở rộng của bộ xử lý EPYC, giúp doanh nghiệp mở rộng dung lượng bộ nhớ và nâng cao hiệu quả sử dụng tài nguyên trong bối cảnh nhu cầu AI và ứng dụng dữ liệu ngày càng gia tăng.

Phó chủ tịch phụ trách kinh doanh AI đám mây của Arm Eddie Ramirez cho biết Structera X mang CXL 3.2, khả năng mở rộng bộ nhớ và nén vào hệ sinh thái Arm, cung cấp thêm lựa chọn cho trung tâm dữ liệu quy mô cực lớn vận hành tải công việc AI phức tạp hiệu quả.

Phó chủ tịch lập kế hoạch sản phẩm bộ nhớ của Samsung Electronics Jangseok Choi và người đứng đầu kế hoạch, kích hoạt sản phẩm thế hệ tiếp theo của SK hynix Uksong Kang cho biết cả hai bên đều đã hoàn thiện việc xác thực sản phẩm Structera với bộ nhớ DDR của mình tương ứng cùng Marvell.

Hoàn thiện danh mục CXL, triển khai kiến trúc pooling và disaggregation bộ nhớ

Phó chủ tịch điều hành và tổng giám đốc giải pháp đám mây tùy chỉnh của Marvell Will Chu cho biết, công ty là nhà cung cấp duy nhất trong ngành cung cấp đầy đủ danh mục sản phẩm CXL end-to-end, bao gồm nhiều cấp độ: Structera X để mở rộng bộ nhớ, Structera A để tăng tốc gần bộ nhớ, và PFMA (Photonic Fabric™ Memory Appliance) chia sẻ bộ nhớ CXL cấp tủ rack, đáp ứng các nhu cầu ứng dụng từ mở rộng bộ nhớ trực tiếp đến pooling và disaggregation bộ nhớ.

Giám đốc điều hành của tổ chức nghiên cứu thị trường Objective Analysis Jim Handy cho biết CXL đang được sử dụng dần trong hệ thống AI, với đặc điểm băng thông cao và dung lượng lớn hứa hẹn mang lại lợi ích đáng kể. Ông cũng cho biết, với bối cảnh nguồn cung bộ nhớ hạn chế và giá cao, nhà quản lý IT đang cân nhắc tận dụng CXL để tái sử dụng mô-đun DDR4 trên hệ thống DDR5 nhằm giảm chi phí; các bộ điều khiển có chức năng nén bộ nhớ sẽ càng tăng sức hấp dẫn của giải pháp này.

Structera X 3406 và 3506 sẽ xuất hiện tại Hội nghị thượng đỉnh toàn cầu OCP diễn ra từ ngày 12 đến 15/10 tại San Jose, California, và mẫu chính thức dự kiến ra mắt vào quý đầu năm 2027.