NVIDIA startet Windows-basierten Supercomputer für KI-Agenten

Die Entwicklung für den internen Gebrauch erfordert daher einen zusätzlichen Schritt: das Bereitstellen für KI-Systeme, die unter Linux laufen.

Mit der DGX Station für Windows entfernt NVIDIA diese Komplexität und macht es einfacher, KI-Agenten auf bestehenden Anwendungen und Infrastrukturen unter der Windows-Plattform zu erstellen, auszuführen und zu verbinden. Was ist die DGX Station?

Die DGX Station wird GB300 Grace Blackwell Ultra Desktop Superchip angetrieben, der mit NVIDIAs 72-Kern-Grace-CPU verbunden ist. Das System verfügt über 748 GB kohärenten Arbeitsspeicher und bietet bis zu 20 Petaflops FP4-Leistung.

Technik und Auswirkungen

Die DGX Station ist mit NVIDIAs ConnectX-8 SuperNIC ausgestattet, die 800-Gbps-Netzwerke unterstützt, die für Hyperscale-AI-Rechenlasten optimiert sind.

Der ConnectX-8 SuperNIC kann eingesetzt werden, um extrem schnelle Datennetzwerke für AI-Arbeitslasten bereitzustellen oder mehrere DGX Stationen miteinander zu vernetzen und dadurch noch leistungsfähigere Lösungen zu ermöglichen. „Wenn Unternehmen AI-Agenten in ihren Organisationen ausrollen, benötigen sie AI-Infrastruktur, die direkt mit den Anwendungen und Workflows verbunden ist, die ihr Geschäft antreiben", sagte Chris Marriott, Vice President für Enterprise Platforms bei NVIDIA, in einer Pressemitteilung. „Die DGX Station bringt Supercomputing-Klasse AI direkt Windows, Millionen täglich entwerfen, ingenieurtechnisch arbeiten, forschen und kreativ tätig sind", fügte Marriott hinzu.

Zusammenarbeit mit Microsoft entwickelt, dient die DGX Station als dedizierte Agenteninfrastruktur für den Betrieb einer Billion Parametern.

Technik und Auswirkungen

Bei Bedarf kann die Station so konfiguriert werden, dass sie im großen Maßstab Hunderte KI-Agenten: Während unsere Erfahrungen mit KI-Agenten oft auf solche beschränkt sind, die auf unsere Anfragen reagieren, wenn wir sie stellen, unterscheidet sich der Einsatz ist stets aktiv, mit Anwendungen und Arbeitsabläufen verbunden und arbeitet Echtzeit nach und reagiert.

Durch den großflächigen Zugriff auf Daten müssen autonome Agenten in einer sicheren Laufzeitumgebung entwickelt und bereitgestellt werden, die regelt, wie sie handeln, welche Werkzeuge sie nutzen dürfen und welche Rolle sie in einem größeren System einnehmen.

DGX zielt darauf ab, Unternehmen eine sichere Laufzeitumgebung für die Bereitstellung und das Testen, bevor diese auf Rechenzentren hochskaliert werden. NVIDIAs OpenShell bietet eine sichere Laufzeitumgebung und nutzt neue Windows-Sicherheitsfunktionen, um für KI-Agenten individuelle isolierte Sandboxes zu erstellen.

Technik und Auswirkungen

Durch die Trennung Datenschutz- und Sicherheitsrichtlinien außerhalb der Reichweite des Agents platziert, um zu verhindern, dass sie abgefangen oder überschrieben werden. „Seit Jahrzehnten arbeiten Microsoft und NVIDIA zusammen, um die leistungsstärksten Rechenplattformen der Welt voranzutreiben", sagte Pavan Davuluri, Executive Vice President + Devices bei Microsoft, in einer Pressemitteilung. „Heute nehmen wir diese Zusammenarbeit auf die nächste Stufe: Wir skalieren die volle Leistung hin Data-Center-klassen-Workstations mit der von GB300 angetriebenen DGX Station.

Damit wird eine neue Klasse öglicht, der Plattform, auf die Unternehmen für Sicherheit, Verwaltbarkeit und Kompatibilität vertrauen."