NVIDIA Vera und Rubin: Gerüchte entlarvt – Es geht um architektonische Flexibilität, nicht um Feature-Cuts

Technischer Hintergrund

Auch die zuvor in den Medien verbreiteten Berichte über eine Halbierung der Speicherkapazität in den NVIDIA-Verarbeitungseinheiten (Vera Rubin) NVL72-Servern stehen in direktem Zusammenhang mit dieser flexiblen Konfigurationsarchitektur.

Die Gesamtbetriebskosten für Kunden sowie die Kriterien zur Effizienz, dass eine Kapazität von 1,5 TB in jedem Szenario nicht zwingend erforderlich ist. Stattdessen werden kosteneffiziente Anforderungen zufolge auch alternative Optionen wie 768 GB auf den Markt gebracht.

HBM4-Technologie und Rubin-Ultra-Konfiguration Im Bereich der Grafikprozessoren verfügen die Rubin-GPUs weiterhin über einen HBM4-Speicher mit einer Kapazität von 288 GB und einer Bandbreite 22 TB pro Sekunde. Diese Architektur umfasst acht HBM4-Speicherbereiche, wobei jeder Bereich aus einem DRAM-Substrat mit 12 Schichten besteht.

Technischer Hintergrund

Bei der Rubin-Ultra-Konfiguration, die die höchste Leistung bietet, war das Ziel, pro Paket 1 TB HBM4e-Speicher bereitzustellen. Diese Kapazität wird durch 16 HBM-Schichten erreicht, die auf zwei Retikelmuster platziert sind.

Nach jüngsten Tests wurde berichtet, dass NVIDIA verschiedene HBM-Konfigurationen zwischen 192 GB und 256 GB sowie variable HBM4-Optionen mit acht Schichten für die Rubin-Ultra-Architektur erprobt hat.

Diese Tests, die fr Lsungen des Tek-Retikul-Formats gelten, ergeben sich aus der Notwendigkeit der Hersteller, flexible Optionen zu entwickeln, um den fortschreitenden Engpssen bei der Speicherbereitstellung in der Halbleiterindustrie zu begegnen. hnlich hatte der Konkurrent AMD fr Meta den Chip MI450 entwickelt, dessen Speicherkapazitt auf 288 GB angehoben wurde, um spezielle Kundenversionen anzubieten.

Technischer Hintergrund

Speicherorientierte Lsungen gegen die Lieferkrise Um die fr die kommenden Jahre erwarteten Engpsse bei DRAM und HBM zu berwinden, wendet sich NVIDIA in den kommenden Jahren alternativen Speichermethoden fr KI-Inferenzprozesse zu.

Im Rahmen dessen sticht das neu vorgestellte Vera BlueField-4 STX-Plattform durch eine integrierte DOCA-Sicherheitsarchitektur und CXM-Kontext-Speicher-Technologie hervor. Diese Architektur zielt darauf ab, die Last auf dem Speicher bei langlaufenden und mehrstufigen KI-Inferenzprozessen in die Speicherschicht zu verlagern.

NVIDIA-CEO Jensen Huang besttigte erneut, dass es im Launch-Kalender fr die Server-Plattformen Rubin, Rubin Ultra und Kyber keine Verzgerungen gibt.

Das Unternehmen bestätigte, dass eine flexible Produktpalette keinen Leistungsabfall bedeute, die Produktionslinien weiterhin mit voller Kapazität nach den ursprünglichen Designs betrieben werden und der Fokus auf die Serienproduktion neuartiger KI-Hyperskalierungssysteme gelegt werde.