NVIDIAs 8 Jahre alter V100-Grafikchip verkauft sich für 100 Dollar und schlägt moderne Consumer-Karten in KI-LLM-Aufgaben

Dennoch hat Hardware Haven beschlossen, eine 8 Jahre alte V100-GPU zu testen, um zu prüfen, wie sie sich in modernen KI-LLMs schlägt. Zuvor jedoch ein Rückblick auf die Spezifikationen der NVIDIA Tesla V100-GPU: Die Tesla V100 war in zwei unterschiedlichen Formfaktoren erhältlich, einem SXM-Board und einer PCIe-Variante.

Die SXM-Modelle wurden vorwiegend in Rechenzentren eingesetzt und verfügten über einen Mezzanine-Anschluss, der eine direkte Stromversorgung und NVLink-Routing ermöglichte. Der getestete V100 ist ein SXM2-Modell mit 5120 Kernen, 320 TMUs, 128 ROPs und 640 Tensor Cores.

Er verfügt über 6 MB L2-Cache, eine Taktrate 1530 MHz sowie entweder 16 oder 32 GB HBM2-Speicher über eine 4096-Bit-breiten Bus-Schnittstelle, was eine Bandbreite von 898 GB/s ergibt. Die GPU hat eine TDP von 250 W, was im Vergleich zu den aktuellen Blackwell-Modellen mit über 1 kW als winzig erscheint.

Damals kostete die NVIDIA Tesla V100

Damals kostete die NVIDIA Tesla V100 mehr als 10.000 US-Dollar; heute kann man die 16-GB-Variante jedoch für nur 100 US-Dollar auf eBay erwerben. Das Hauptproblem liegt jedoch nicht im Preis der GPU, sondern in der Kompatibilität mit einem Standard-PC. Kein PC unterstützt SXM2-Standards.

Dafür war ein SXM-zu-PCIe-Adapter erforderlich, der über eine eigene dedizierte Konfiguration mit zwei 8-Pin-Steckern und drei 4-Pin-Lüfteranschlüssen verfügt. Eine weitere Hürde bildete die Kühlungslösung: Die NVIDIA Tesla-Serie ist für große Rechenzentren konzipiert und arbeitet passiv mit einem großen Kühlkörper.

Der Kühlkörper und die Rückplatte der GPU sind hochwertig, können jedoch einen 24/7-Betrieb in Standard-PCs nicht aufrechterhalten. Dies veranlasste den TechTuber, einen eigenen Kühlkanal zu entwickeln, der 3D-gedruckt wurde, sowie einen einzelnen Noctua-Lüfter, der eine direkte Luftzufuhr zum Kühlkörper ermöglichte.

Die Gesamtkosten für die GPU

Die Gesamtkosten für die GPU und die Zusatzkomponenten beliefen sich schließlich auf etwas mehr als 200 US-Dollar, was immer noch niedriger ist als bei den Vergleichsmodellen wie der RTX 3060 12 GB und der RX 7800 XT 16 GB. Das erste für die Tests eingesetzte KI-LLM war GPT-oss mit 20 Milliarden Parametern.

Dabei erreichte das NVIDIA V100-System eine Token-Geschwindigkeit 130 Tokens/s, während die RX 7800 XT lediglich etwa 90 Tokens/s bewältigte. Im Vergleich zur NVIDIA GeForce RTX 3060 12 GB, die etwa fünf Jahre alt ist, war das NVIDIA V100 in der Token-Generierungsgeschwindigkeit bei Gemma4:e4b (ollama+openwebui) um 42 % schneller.

Noch beeindruckender ist die Energieeffizienz der acht Jahre alten GPU: Obwohl sie einen höheren Stromverbrauch aufwies, lag sie bei 12 % vor dem neueren Ampere-basierten GPU-Modell. Die GPU wurde zudem mit einem Leistungslimit von 100 W getestet, bei dem sie erneut die RTX 3060 übertraf und in den Tests zur Token-Effizienz (Token pro Sekunde pro Watt) eine Vorsprünge von 41 % erzielte.

Leistung und Energieausbeute

Zwar beweist dies, dass ältere Grafikkarten für KI-LLMs weiterhin geeignet sind und großes Preis-Leistungs-Verhältnis sowie hohe Effizienz bieten, doch erfordern sie zusätzliche Modifikationen, die nicht jeder selbst durchführen kann. Das Modell mit 32 GB Speicher kostet etwa 400 bis 500 US-Dollar, wobei die zusätzliche Speicherkapazität bei größeren KI-LLMs weiter Vorteile bieten kann.

Der Technologie-Verlag plant jedoch weitere Tests in Zukunft, daher lohnt sich ein Besuch des Kanals sowie der vollständige Video-Link unten: Über den Autor: Hassan Mujtaba ist Software-Ingenieur Leidenschaft und fungiert als Senior-Editor für die Hardware-Abteilung spezialisiert er sich auf tiefgehende technische Analysen nächsten Generation für CPUs und GPUs, Mainboards sowie Kühlsystemen.

Seine Arbeit umfasst nicht nur die Berichterstattung über aktuelle Entwicklungen in der Technologiebranche, sondern auch umfangreiche praktische Tests und Benchmarks. Sie Wccftech auf Google, um weitere unserer Nachrichtenberichte in Ihren Feeds zu erhalten.