AI yang terus belajar masih memperluas pasar semikonduktor penyimpanan

Meskipun ada pendapat bahwa perkembangan AI harus melambat, AI yang terus belajar tetap memperluas pasar semikonduktor penyimpanan1/ Meskipun belakangan ini muncul pendapat bahwa laju perkembangan AI sebaiknya diperlambat, teknologi pembelajaran berkelanjutan yang memungkinkan AI terus mempelajari informasi baru justru menjadi pendorong pertumbuhan baru di pasar semikonduktor penyimpanan.2/ Bank investasi global Citibank memperkirakan permintaan global HBM pada tahun depan akan meningkat 62% dibandingkan tahun ini, mencapai 75,2 miliar Gb.3/ Citibank mengidentifikasi pembelajaran berkelanjutan sebagai salah satu alasan utama lonjakan permintaan HBM, dan menganalisis bahwa seiring dengan pelatihan dan inferensi yang dilakukan secara berulang, permintaan tidak hanya terhadap HBM, tetapi juga DRAM untuk server dan SSD tingkat perusahaan juga akan meningkat secara bersamaan.4/ Saat ini, sebagian besar AI generatif menggunakan metode pelatihan sebelumnya dan kemudian menjawab, di mana informasi baru tidak secara otomatis dimasukkan ke dalam pengetahuan jangka panjang, sehingga menimbulkan masalah efisiensi.5/ Dalam pembelajaran berkelanjutan, batas antara pelatihan dan inferensi menjadi semakin kabur, dengan tujuan agar AI dapat mempelajari data dan pengalaman baru sembari memberikan layanan, serta menggabungkannya dengan pengetahuan yang sudah ada.6/ Sembari terus mempelajari informasi baru, AI juga harus mengakses data dalam jumlah besar yang sudah ada, sehingga kapasitas penyimpanan yang lebih besar sangat dibutuhkan. Selain HBM, penggunaan DRAM untuk server dan eSSD berbasis NAND juga menjadi semakin penting.7/ Karena pembelajaran juga berlangsung selama proses inferensi, bandwidth saja tidak cukup untuk mengatasi hambatan, sehingga permintaan untuk teknologi seperti PIM yang melakukan komputasi di dekat memori juga kemungkinan akan meningkat.8/ Samsung Electronics telah mengajukan zHBM yang menumpuk HBM langsung di atas AI accelerator, sedangkan SK hynix memperkenalkan struktur seperti PIM, SALT-KV, dan HBF untuk mencoba menembus batasan struktur GPU-HBM yang ada.