郭明錤：英偉達重啟推理預填充優化晶片Rubin CPX項目

NVIDIA悄悄重新啟動一項一度被市場認為已經放棄的晶片專案，目標直指AI推理成本較高的預填充（Prefill）環節。

知名分析師郭明錤最新產業調查顯示，NVIDIA已重新啟動AI推理預填充加速GPU專案“Rubin CPX”，並對產品設計進行大幅調整。按照目前規劃，新版Rubin CPX預計於2027年第一季開始生產。

此次專案重啟釋放出一個明確訊號：NVIDIA正在加碼解決AI推理階段的預填充效能與成本瓶頸。隨著大型模型的上下文長度持續增加，預填充階段需要處理大量輸入資訊並產生KV Cache，其效率直接影響AI推理的整體成本與部署經濟性。

郭明錤指出，目前超過50%的AI推理工作負載來自輸入上下文處理及KV Cache構建。

晶片規格大幅調整，算力接近標準Rubin

新版Rubin CPX的核心規格較之前方案出現明顯變化。

在算力和功耗方面，新版CPX的性能已接近標準Rubin GPU，單卡最高功耗同樣達到2300瓦。記憶體方面，新版CPX改用168GB HBM4顯存，相較於前一版本的128GB GDDR7明顯升級，但仍低於標準Rubin GPU的288GB HBM4。

根據郭明錤的說法，8卡CPX計算托盤的HBM4容量合計約1.34TB，能夠涵蓋大多數長上下文預填充工作負載及對應的KV Cache需求。這代表Rubin CPX並非單純追求更高的通用算力，而是針對長上下文情境對顯存容量和預填充效率進行重新設計。

從共享機架轉向獨立部署，配置更加靈活

機架架構也是此次調整的重點。

先前方案中，CPX計畫與Rubin GPU共享機架；新版則改為採用獨立的MGX ETL機架，讓客戶能夠根據實際需求單獨擴展CPX算力。

具體來看，客戶可選擇64、128、192或256張CPX GPU的部署規模。每64張CPX GPU構成一個機架模組，包括8個計算托盤，每個托盤搭載8張CPX GPU，同時配備一個交換器托盤。

模組化設計代表，客戶無須按照固定的大規模Rubin機架進行採購，可以依據預填充負載的實際需求靈活增加CPX算力。

分層互聯設計，降低預填充部署成本

在互聯架構上，Rubin CPX採用分層設計，在效能與成本之間進行取捨。

於單一計算托盤內部，8張CPX GPU透過NVLink進行Scale-up擴展。每張CPX GPU的NVLink頻寬為1至1.5TB/s，低於標準Rubin GPU的3.6TB/s。

於托盤間及機架模組內部的Scale-out層面，CPX採用Spectrum-6乙太網全銅L1鏈路；跨機架模組連線時，則透過各模組的Spectrum-6交換器，以OSFP光纖鏈路完成互聯。

相較完全依賴高頻寬GPU互聯的方案，此分層架構更著重於針對預填充場景進行成本最佳化。

與Rubin GPU協同，瞄準長上下文推理

Rubin CPX並非獨立運行的通用GPU，而是做為預填充加速器與Vera Rubin NVL72配套使用。

根據郭明錤的說法，NVIDIA建議CPX及Rubin GPU按照1:1的比例部署：CPX負責預填充階段的運算並產生KV Cache，隨後透過乙太網RDMA將KV Cache傳輸至Rubin GPU，由後者完成後續解碼。

從產品定位來看，Rubin CPX的核心並非取代標準Rubin GPU，而是將AI推理流程進一步拆分，令不同GPU分別承擔預填充與解碼任務。

郭明錤將其定位為「長上下文預填充的最佳性價比方案」。隨著AI模型上下文視窗不斷擴大，預填充階段的運算量和KV Cache規模持續攀升，NVIDIA此次重啟CPX專案，或正是企圖透過專用硬體和異質性部署方式，進一步降低長上下文推理的成本。