Ming-Chi Kuo: Nvidia nimmt das Optimierungsprojekt für das Rubin CPX Inferenz-Vorfüllungs-Chip wieder auf
Laut einer Umfrage des bekannten Analysten Ming-Chi Kuo hat Nvidia die Entwicklung des „Rubin CPX“-AI-Inferenzvorfüllchips wieder aufgenommen, dessen Massenproduktion Anfang 2027 erwartet wird. Die neue Version verwendet 168GB HBM4-Speicher, verfügt über eine Leistungsaufnahme von 2300 Watt und eine Rechenleistung, die nahezu der eines Standard-Rubin-GPU entspricht. Der Chip basiert auf einem modularen, eigenständigen Rack- und Schichtverbindungsdesign und wird im Verhältnis 1:1 mit Rubin GPU gemeinsam eingesetzt. Er ist speziell auf das Vorfüllen und die Generierung von KV-Cache ausgerichtet, um die Kosten für Inferenz mit langen Kontexten zu senken.
Nvidia hat still und leise ein Chip-Projekt wiederbelebt, das vom Markt einst als aufgegeben galt, mit dem Ziel, die kostspielige Prefill-Phase im Bereich der KI-Inferenz gezielt anzugehen.
Die neueste Branchenanalyse des bekannten Analysten Ming-Chi Kuo zeigt, Nvidia hat das GPU-Projekt „Rubin CPX“ zur Beschleunigung der KI-Inferenz-Prefill-Phase wieder gestartet und das Produktdesign deutlich angepasst. Nach aktueller Planung soll die neue Version von Rubin CPX voraussichtlich im ersten Quartal 2027 in Produktion gehen.
Die Wiederaufnahme dieses Projekts sendet ein klares Signal: Nvidia verstärkt seine Bemühungen, die Leistungs- und Kostenengpässe im Prefill-Stadium der KI-Inferenz zu überwinden. Mit der fortlaufenden Verlängerung der Kontextlänge großer Modelle müssen im Prefill-Stadium große Mengen an Eingabedaten verarbeitet und KV Cache generiert werden – deren Effizienz wirkt sich direkt auf die Gesamtkosten und die Wirtschaftlichkeit der KI-Inferenz aus.
Ming-Chi Kuo erklärt, dass aktuell mehr als 50 % der KI-Inferenz-Last aus der Verarbeitung des Eingabekontexts und dem Aufbau des KV Cache resultiert.
Chip-Spezifikationen stark angepasst, Rechenleistung nahe Standard-Rubin
Die Kerndaten des neuen Rubin CPX unterscheidet sich deutlich von bisherigen Vorgaben.
In Bezug auf Rechenleistung und Stromverbrauch erreicht die neue Version von CPX inzwischen annähernd die Leistung der Standard-Rubin GPU, mit einer maximalen Leistungsaufnahme von bis zu 2300 Watt pro Karte. Beim Speicher setzt die neue CPX-Version auf 168GB HBM4, was im Vergleich zum früheren 128GB GDDR7-Design ein deutliches Upgrade darstellt, jedoch weiterhin unter den 288GB HBM4 der Standard-Rubin GPU bleibt.
Laut Kuo verfügt ein CPX-Berechnungs-Tray mit acht Karten zusammen über eine HBM4-Kapazität von etwa 1,34TB – ausreichend für die meisten Prefill-Aufgaben mit langer Kontextlänge und die entsprechende KV Cache-Anforderung. Das bedeutet, Rubin CPX zielt nicht ausschließlich auf höhere generelle Rechenleistung, sondern wurde für Szenarien mit langen Kontextfenstern hinsichtlich Speicherkapazität und Prefill-Effizienz gezielt neu konzipiert.
Vom gemeinsamen Rack zur unabhängigen Bereitstellung, flexiblere Konfiguration
Auch das Rack-Design bildet einen Schwerpunkt der Anpassungen.
Im ursprünglichen Plan sollte CPX das Rack gemeinsam mit Rubin GPU nutzen; die neue Version setzt auf ein unabhängiges MGX ETL-Rack, das es Kunden ermöglicht, CPX-Rechenleistung je nach Bedarf separat zu skalieren.
Konkret können Kunden eine Bereitstellungsgröße von 64, 128, 192 oder 256 CPX GPUs wählen. Jeweils 64 CPX GPUs bilden ein Rack-Modul mit acht Computing-Trays, wobei jedes Tray acht CPX GPUs sowie einen Switch-Tray umfasst.
Durch die modulare Gestaltung müssen Kunden nicht zwingend im Großmaßstab Rubin-Racks einkaufen, sondern können die CPX-Leistung nach Bedarf der Prefill-Last flexibel erweitern.
Schichtweise Vernetzungsdesign, niedrigere Prefill-Bereitstellungskosten
Rubin CPX setzt im Vernetzungsdesign auf eine schichtweise Struktur, um zwischen Leistung und Kosten zu balancieren.
Innerhalb eines Computing-Trays werden die acht CPX GPUs via NVLink zur Scale-up-Erweiterung verbunden. Jede CPX GPU bietet eine NVLink-Bandbreite von 1 bis 1,5TB/s – im Vergleich zu 3,6TB/s bei der Standard-Rubin GPU dennoch geringer.
Für das Scale-out zwischen Trays sowie innerhalb von Rack-Modulen verwendet CPX Spectrum-6 Ethernet All-Copper L1-Verbindungen; für Verbindungen zwischen Rack-Modulen werden die Spectrum-6 Switches über OSFP-Faserverbindungen eingesetzt.
Im Vergleich zu reinen High-Bandwidth-GPU-Interconnect-Lösungen konzentriert sich dieses Schichtkonzept auf die Kostenoptimierung speziell für den Prefill-Bereich.
Zusammenspiel mit Rubin GPU, ausgerichtet auf lange Kontextinferenz
Rubin CPX ist kein unabhängiger, universeller GPU, sondern dient als Prefill-Beschleuniger im Verbund mit Vera Rubin NVL72.
Nach Angaben von Ming-Chi Kuo empfiehlt Nvidia eine Deployment-Ratio von 1:1 zwischen CPX und Rubin GPU: CPX übernimmt die Berechnung und Generierung des KV Cache in der Prefill-Phase; dieser wird anschließend via Ethernet RDMA an die Rubin GPU übertragen, die wiederum das nachfolgende Decoding erledigt.
Die Produktpositionierung zeigt, dass Rubin CPX nicht darauf abzielt, die Standard-Rubin GPU zu ersetzen, sondern die KI-Inferenz-Prozesse weiter aufzuteilen, sodass unterschiedliche GPUs die Aufgaben für Prefill und Decoding separat bewältigen.
Kuo bezeichnet dies als „die beste Kosten-Nutzen-Lösung für Prefill in langen Kontextfenstern“. Mit der stetigen Ausweitung der Kontextfenster bei KI-Modellen steigen die Berechnungslast und die KV Cache-Größe im Prefill-Stadium kontinuierlich. Die Wiederaufnahme des CPX-Projekts durch Nvidia dürfte gezielt darauf abzielen, die Kosten für lange Kontextinferenz mittels spezialisierter Hardware und heterogener Bereitstellung weiter zu senken.
Haftungsausschluss: Der Inhalt dieses Artikels gibt ausschließlich die Meinung des Autors wieder und repräsentiert nicht die Plattform in irgendeiner Form. Dieser Artikel ist nicht dazu gedacht, als Referenz für Investitionsentscheidungen zu dienen.
Das könnte Ihnen auch gefallen
Die Siliziumwafer-Bestellungen von SK Hynix steigen um 104 % im Monatsvergleich: „Hamstern“ und Preiskämpfe im Zuge des KI-Speicher-Wettrüstens
Das Einkaufsvolumen von Siliziumwafern durch SK Hynix stieg im zweiten Quartal 2026 im Vergleich zum Vorquartal um 104 % und übertraf damit Samsung deutlich. Der zentrale Grund ist das frühzeitige Sichern der Rohstoffe zur Absicherung gegen Preiserhöhungen und zur Vorbereitung der Expansion bei HBM und fortschrittlichen DRAM-Kapazitäten. Gleichzeitig genehmigte SK Hynix eine Preiserhöhung von 3 % bis 4 % bei den wichtigsten Gerätezulieferern und beendete damit eine fünfjährige Phase der Preisnachlässe.
Die KI-Infrastruktur könnte bis zu 5,5 Billionen US-Dollar „verschlingen“ – JPMorgan: Der Anleihemarkt ist in der Lage, die Emissionswelle zu verkraften, und Tech-Giganten können weiterhin Hebel einsetzen.
Da Technologiegiganten eine Welle von Anleiheemissionen zur Errichtung von KI-Datencentern auslösen, macht sich der Markt Sorgen darüber, ob der US-Investment-Grade-Anleihenmarkt das stetig wachsende Angebot an Schuldtiteln absorbieren kann.
Samsung veröffentlicht Fahrplan für nächste Speicher-Generation: HBM5 erreicht die doppelte Leistung von HBM4E, zHBM steigert die Beschleunigungsleistung um das Achtfache
Die HBM5-Basischips werden mit einem Herstellungsverfahren von 2 Nanometern gefertigt, mit dem Ziel, die doppelte Leistung von HBM4E zu erreichen. Die Leistung pro Watt wird um 20 % erhöht, während der Wärmewiderstand um 20 % gesenkt wird. Die Massenproduktion wird für das Jahr 2028 erwartet. Die völlig neue zHBM-Architektur soll eine achtfache Leistung im Vergleich zu HBM4E bieten, mit einer dreifachen Steigerung der Leistung pro Watt und einer Reduzierung des Wärmewiderstands um 75 % bis 90 %. Die Einführung ist nach 2029 geplant.
Anthropic führt Fable 5.1 ein: Preise um bis zu 75 % gesenkt, verbesserte Programmier- und Forschungsfähigkeiten
Die wichtigste Änderung in Fable 5.1 ist die massive Senkung der Gebühren für „Cache Hits“ um 75 %. Das Unternehmen gab an, dies werde zu einer erheblichen Reduzierung der Gesamtkosten führen. Neben der Preissenkung wurde auch das neue Modell selbst optimiert, um dieselben Aufgaben mit weniger Token zu erledigen. Zudem wurde die Möglichkeit geschaffen, dass Daten in der eigenen Cloud des Kunden verbleiben, um den Anforderungen von Unternehmenskunden mit strengen Vorgaben zur Datensouveränität gerecht zu werden.
Krypto-Preise
Mehr
