Agentic KI treibt CPUs zu 400 GB Speicher, mehr als heute, an, während der DRAM-Mangel auf 2027 zusteuert

Technischer Hintergrund

Die kommende MRDIMM-Technologie wird zu einer Steigerung der Speicherkapazität und des Bandwidths beitragen, ist aber immer noch ein physisch separater DRAM. Der Wettbewerb um die Speicherkapazität dehnt sich über die GPUs auf die CPUs aus und zeigt Anzeichen einer Schneeballwirkung.

Nvidias KI-Chip der nächsten Generation, „Vera Rubin“, verfügt über 288 GB über acht HBM-Chips, während AMDs GPU der nächsten Generation, die MI400, eine noch größere Kapazität von 432 GB aufweist. Googles kürzlich enthüllter kundenspezifischer Chip, die 8.

Generation der Tensor Processing Unit (TPU) TPU 8i, wird ebenfalls voraussichtlich über 288 GB HBM-Kapazität verfügen. Darüber hinaus wird der Speicherengpass voraussichtlich anhalten, da Intels KI-CPU „Xeon“ und AMDs „Epyc“ beginnen, Hochleistungs-DDR5 mit bis zu 400 GB zu nutzen.

Technischer Hintergrund

Machine Translated (via SE Daily) Die Wahrscheinlichkeit ist, dass wir bestimmte CPU-SKUs mit HBM sehen könnten oder die neuen HBF/ZAM-Speicherstandards, die derzeit entwickelt werden. AMD hat vor einiger Zeit ein EPYC-SKU mit HBM-Speicher veröffentlicht, sodass es Erfahrung mit solchen Chips hat.

Oder der einfachere Weg ist, dass die Speicherkapazitäten pro DIMM erheblich steigen. Ein einzelnes 400-GB-DIMM wird mehr DRAM sein als aktuelle GPUs wie NVIDIAs GB300 und AMDs MI350X mit 288 GB HBM3E.

Zukünftige Lösungen werden DRAM mit neueren HBM4-Standards und erhöhten Kapazitäten skalieren. Der Anstieg der Kapazitäten kann zu weiteren Lieferengpässen führen, und da dichtere DRAM-ICs im Fokus stehen, können wir erwarten, dass Speicherhersteller aus den unteren Segmenten aussteigen.

Technischer Hintergrund

Samsung hat dies bereits mit LPDDR4-Speicher getan, wo es die Produktion einstellte und auf die profitableren LPDDR5-Lösungen umstellte. Aber wie bei LPDDR5 gibt es auch bei DDR5 verschiedene Formen und Größen, und jede hat ihre eigene Verwendung.

Da die DRAM-Nachfrage für KI mehr Hochleistungschips erfordert, werden weniger Produktionslinien für Produkte des unteren Endes bereitgestellt, was zu schlimmeren Engpässen und sogar höheren Preisen für Segmente jenseits führen würde.

Seine Arbeit umfasst nicht nur die Berichterstattung über kommende Technologien, sondern auch ausführliche praktische Tests und Benchmarks. Sie Wccftech auf Google, um mehr Feeds zu erhalten.