NVIDIA verliert an Bedeutung: Evercore warnt, dass steigende Kühl- und Stromkosten Hyperscaler zu eigenen ASICs treiben.

Die Diskussion über die Nutzungskosten auf eine Analyse, die sich ebenfalls mit diesem Thema befasste. In ihrer Abdeckung stellte Morgan Stanley fest, dass der Aufbau eines Rechenzentrums mit NVIDIAs Blackwell-GPUs zwar doppelt so teuer ist wie mit kundenspezifischen KI-Chips, die Leistung pro Watt der Blackwell-GPUs jedoch bis zu achtmal höher ist.

Allerdings weist Evercore in seiner Analyse darauf hin, dass KI-Ingenieure bei der Bewertung pro Watt weitere Faktoren berücksichtigen. Zitat KI-Ingenieure und anderer Akteure aus der Hyperscaler-Branche, legt das Finanzunternehmen dar, dass Nutzer der Chips auch bei der Verwendung den Blick nehmen.

Laut Evercore bedeutet der Übergang „training-getriebenen Regime" zu einem „inference-getriebenen Regime" eine „steigende Fokussierung auf Kosten pro Token, ROI und TCO, was das Interesse der Hyperscaler an eigenentwickelten ASICs und alternativen Beschleunigern beschleunigt".

Technik und Auswirkungen

Diese Aussage wurde durch Aussagen eines Experten des KI-Computing-Infrastruktur-Anbieters Nebius bestätigt. Der Expert hatte bemerkt, dass GPUs anhand pro Million generierten Tokens bewertet werden.

Das Finanzunternehmen weist zudem darauf hin, dass der Übergang zum Inferencing die Kaufkriterien von „maximaler Durchsatz/Bandbreite" hin zu „Kosten pro Token, Stromverbrauch, Kühlung, Auslastung und Gesamtbetriebskosten (TCO)" verlagert.

Es fügt hinzu, dass NVIDIAs Behauptung, sie würde bei durchschnittlichen KI-Ingenieuren nicht Anklang finden, auf der Überzeugung beruht, dass Bruttomargen von 70 % überhöht seien. Infolgedessen betont Evercore, dass durchschnittliche Ingenieure bereit seien, ASICs oder „ausreichend gute" Alternativen einzusetzen, um die Wirtschaftlichkeit zu verbessern.

Technik und Auswirkungen

Der Experte, dass Inferenzanfragen bis zu 95 % der gesamten unternehmerischen Workload-Anwendungsfälle ausmachen. Zudem wurden die Groq-Chips aufgrund ihres höheren Durchsatzes bevorzugt, so der Experte.

Evercore ISI: Kanäle zur Überprüfung über ASICs/Optik: „Die Nachfrage nach NVDA-Inferenzchips wird bis 2028 µm 50 % sinken, da sich $AMD, TPU, Trainium, Maia und SRAM-Chips weiter verbessern. Ein durchschnittlicher KI-Ingenieur ist bereit, ASICs oder „ausreichend gute" Alternativen einzusetzen, um die Wirtschaftlichkeit zu steigern.

Die Lieferzeiten für die B300 wurden auf 12 bis 16 Wochen verlängert… Zum Autor: Ramish ist ein erfahrener Technologieautor und Redakteur mit mehr als einem Jahrzehnt Erfahrung. Er spezialisiert sich auf die Halbleiterfertigung und Marktanalysen.

Technik und Auswirkungen

Mit einem Hintergrund Finanzwesen und Supply-Chain-Management – durch einen Bachelor Finance und einen Micromaster Supply-Chain-Management – verbindet Ramish finanzielle Strenge mit tiefgreifendem Branchenwissen, um präzise und autoritative Berichterstattung zu liefern.

Sie Wccftech auf Google, um weitere unserer Nachrichtenabdeckung Ihren Feeds zu erhalten."