AI liên tục học hỏi vẫn đang mở rộng thị trường bán dẫn lưu trữ.

Mặc dù xuất hiện ý kiến về việc AI nên chậm lại, AI liên tục học hỏi vẫn đang mở rộng thị trường bán dẫn bộ nhớ1/ Dù gần đây xuất hiện các quan điểm cho rằng tốc độ phát triển của AI nên chậm lại, công nghệ học hỏi liên tục, cho phép trí tuệ nhân tạo liên tục tiếp thu thông tin mới, đang trở thành động lực tăng trưởng mới của thị trường bán dẫn bộ nhớ.2/ Theo dự báo của ngân hàng đầu tư toàn cầu Citi, nhu cầu HBM toàn cầu vào năm tới sẽ tăng 62% so với năm nay, đạt 75,2 tỷ Gb.3/ Citi cho rằng học hỏi liên tục là một trong những nguyên nhân chính khiến nhu cầu HBM tăng đột biến, và phân tích rằng khi quá trình huấn luyện và suy luận được lặp lại liên tục, không chỉ HBM mà nhu cầu đối với DRAM dùng cho máy chủ và SSD doanh nghiệp cũng sẽ tăng đồng thời.4/ Hiện tại, hầu hết AI tạo sinh sử dụng phương pháp huấn luyện trước rồi mới trả lời, nên thông tin mới không được tự động bổ sung vào hệ tri thức dài hạn, dẫn tới vấn đề về hiệu quả.5/ Với học hỏi liên tục, ranh giới giữa huấn luyện và suy luận trở nên mờ nhạt hơn, mục tiêu là để AI cũng có thể tiếp thu dữ liệu và kinh nghiệm mới ngay trong quá trình cung cấp dịch vụ, đồng thời kết hợp với tri thức hiện có.6/ Khi AI không ngừng học hỏi thông tin mới, việc truy cập vào lượng dữ liệu khổng lồ hiện tại là cần thiết, vì vậy dung lượng lưu trữ lớn hơn trở nên quan trọng; ngoài HBM, việc kết hợp sử dụng DRAM cho máy chủ và eSSD dựa trên NAND cũng ngày càng cần thiết.7/ Do việc học hỏi diễn ra cả trong quá trình suy luận, chỉ tăng băng thông là không đủ để giải quyết các nút thắt, vì vậy nhu cầu đối với các công nghệ tính toán gần bộ nhớ như PIM cũng có thể tăng lên.8/ Samsung Electronics đã giới thiệu zHBM, giải pháp xếp chồng HBM trực tiếp lên bộ tăng tốc AI, còn SK hynix trình làng các cấu trúc như PIM, SALT-KV và HBF với mục tiêu vượt qua những hạn chế của kiến trúc GPU-HBM hiện nay.