xAI nutzt Berichten zufolge nur 11 % seiner 550.000 NVIDIA-GPUs, während Meta und Google 43–46 % ihrer Flotten auslasten

Diese sind in xAIs Memphis- und Colussus-Clustern eingesetzt, wobei mehrere mit Flüssigkeitskühlkonfigurationen betrieben werden. Trotz einer Generation älter zu den neuesten Blackwell-Angeboten ist das Ausmaß der bei xAI eingesetzten GPUs immer noch beeindruckend.

Trotz der großen Zahl kann das Unternehmen jedoch nur 11 % der 550.000 GPUs nutzen. Das entspricht ungefähr 60.000 GPUs im Vergleich zu den halben Millionen, die in den Servern.

Was verursacht diesen enormen Engpass? Nun, um zu beginnen, bei kleinen Setups (1000

10.000) ist es kein großes Problem,

10.000) ist es kein großes Problem, aber wenn die Server skalieren und Hunderte Tausend GPUs integrieren, summiert sich die Leerlaufzeit schnell und die Auslastung bricht ein.

Dies führt zu mehreren Inkonsistenzen innerhalb des Software-Stacks, die derzeit bei xAI offengelegt werden. Und dies ist nicht nur ein xAI-Problem; es ist ein weit verbreitetes, strukturelles Problem in der KI-Branche, weil Effizienz im großen Maßstab unglaublich schwierig ist.

Bestimmte Unternehmen setzen alles auf ihren Software-Stack und können Auslastungsraten erzielen, die 40 % übersteigen, weit über die typische Rate von 35-45 %. Meta und Google sind solche Beispiele, bei denen die Auslastungsrate jeweils bis zu 43 % bzw.

Moegliche Anwendungen

46 % beträgt. Für xAI sind jedoch das verteilte Trainingsnetzwerk und der Software-Stack noch nicht ausgereift genug.

Dies führt zu längeren GPU-Leerlaufzeiten, wie oben erwähnt, und zu Engpässen, die wiederholt in der Datenpipeline und in den Analysephasen auftreten. Allerdings plant xAI, die Auslastungsrate mit einem Ziel von 50 % zu verbessern.

Es gibt keinen geschtzten Zeitrahmen, aber die wesentliche nderung wird in den Optimierungen der Infrastruktur und des Software-Stacks liegen. XAI wird wahrscheinlich Mietdienste fr seine massive GPU-Flotte anbieten, whrend es zuknftige Workloads auf Hardware umstellt, die die Anforderungen der Agentic AI antreibt.

In diesem Zusammenhang setzt Musk

In diesem Zusammenhang setzt Musk mit dem TeraFab-Projekt alles auf eine Karte, indem er als Teil seiner AI-Familie mehrere eigene Siliziumchips entwickelt und auch Intels 14A-Technologien nutzt, um fortschrittliche Lsungen fr zuknftige xAI, SpaceX und andere Unternehmungen zu schaffen.

Vielleicht werden wir sogar sehen, wie Hunderte , um gro angelegte GenAI-Spiele zu erstellen. ber den Autor: Hassan Mujtaba ist PC-Enthusiast und fungiert als Senior Editor fr den Hardware-Bereich.

Mit jahrelanger Erfahrung in der Branche ist er spezialisiert auf tiefgehende technische Analysen Generation, Motherboards und Khllsungen. Seine Arbeit umfasst nicht nur Breaking News zu kommenden Technologien, sondern auch ausführliche Praxis-Tests und Benchmarks.

Sie Wccftech auf Google, um mehr zu erhalten.