Inti dari peralihan HBM ke tumpukan 8 lapis adalah untuk meningkatkan volume pengiriman

1/ Baru-baru ini, pasar HBM bergerak menuju optimalisasi kinerja dan efisiensi ekonomi berbagai sistem. 2/ NVIDIA awalnya berencana menggunakan HBM4 bertumpuk 12 lapisan pada Rubin, dan HBM4E bertumpuk 12 lapisan pada Rubin Ultra, namun untuk mengurangi masalah panas dan efisiensi energi pada produk berkecepatan tinggi dan bertumpuk banyak lapisan, perusahaan kini mempertimbangkan juga opsi bertumpuk 8 lapisan. 3/ AMD dan Google juga diamati kemungkinan akan menggunakan level HBM yang berbeda pada produk generasi yang sama, tergantung pada beban kerja dan rentang harga. Tampaknya, ini dilakukan untuk memaksimalkan volume pengiriman GPU di tengah pasokan HBM yang terbatas. 4/ Hal ini tidak perlu diartikan sebagai perlambatan permintaan HBM. Sebaliknya, keseimbangan pasokan dan permintaan HBM lebih ketat dari yang diperkirakan. Karena meski spesifikasi HBM disesuaikan, peningkatan volume pengiriman sistem tetap akan menutupi pengurangan kapasitas memori per tumpukan. 5/ NVIDIA Rubin Ultra kini beralih dari awalnya mengutamakan 12Hi ke opsi mempertimbangkan 8Hi HBM4E, 12Hi HBM4, dan 8Hi HBM4 secara bersamaan; AMD MI455X dan Google TPU v8 juga sedang mempertimbangkan konfigurasi multi-level 8Hi dan 12Hi.