NVIDIA stellt cuFile als Open-Source-Technologie zur Verfügung und standardisiert den GPU-Zugriff auf Speicher.
NVIDIA hat die Open-Source-API cuFile vorgestellt, die Grafikprozessoren ermöglicht, bei KI-Arbeitslasten den zentralen Prozessor zu umgehen und Daten direkt über Direct Memory Access (DMA) zu verarbeiten, um Latenzen auf Mikrosekunden-Niveau zu reduzieren. Diese Technologie, die im Rahmen des xio-sig-Konsortiums und der Storage-Next-Allianz entwickelt wird, zielt ausschließlich auf die Optimierung , um Infrastrukturbelastungen zu senken und die Effizienz bei der Verarbeitung großer Sprachmodelle zu steigern.
Kurzfassung
Warum das wichtig ist
- NVIDIA hat die Open-Source-API cuFile vorgestellt, die Grafikprozessoren ermöglicht, bei KI-Arbeitslasten den zentralen Prozessor zu umgehen und Daten direkt über Direct Memory Access (DMA) zu verarbeiten, um Latenzen auf Mikrosekunden-Niveau zu reduzieren.
- Diese Technologie, die im Rahmen des xio-sig-Konsortiums und der Storage-Next-Allianz entwickelt wird, zielt ausschließlich auf die Optimierung , um Infrastrukturbelastungen zu senken und die Effizienz bei der Verarbeitung großer Sprachmodelle zu steigern.
- Engpass bei Rechenlasten für künstliche Intelligenz wird überwunden NVIDIA hat die cuFile-Anwendungsprogrammierschnittstelle (API) sowie die zugehörige Software-Stack für KI- und Datenanalyse-Arbeitslasten als Open Source veröffentlicht.
SvyTech-Check
Redaktionelle Einordnung
Kernpunkt
NVIDIA hat die Open-Source-API cuFile vorgestellt, die Grafikprozessoren ermöglicht, bei KI-Arbeitslasten den zentralen Prozessor zu umgehen und Daten direkt über Direct Memory Access (DMA) zu verarbeiten, um...
Warum relevant
Diese Technologie, die im Rahmen des xio-sig-Konsortiums und der Storage-Next-Allianz entwickelt wird, zielt ausschließlich auf die Optimierung , um Infrastrukturbelastungen zu senken und die Effizienz bei der...
Einordnung
SvyTech ordnet die Meldung aus videocardz.com als Teil des Themenfelds Technologie ein und verweist auf den Originalartikel, damit Leser Fakten, Quelle und Kontext nachvollziehen koennen.
Sie ermöglicht es Grafikprozessoren (GPUs), bei Lese- und Schreibvorgängen den zentralen Prozessor (CPU) zu umgehen und stattdessen direkten Zugriff auf Speichergeräte zu erhalten. Unter dem Dach des xio-sig-Konsortiums wird das Projekt entwickelt, zu dem unter anderem Google, Intel und Meta als erste Gründungsmitglieder gehören.
Die cuFile-Technologie zielt nicht darauf ab, lokale SSDs oder externe Speichergeräte als Alternative zum VRAM einzusetzen, sondern darauf, Latenzen auf dem Weg der Datenübertragung auf Mikrosekunden-Niveau zu reduzieren. In herkömmlichen Speichersystemen muss jeder abgelesene Datensatz über den Hauptspeicher und die CPU geleitet werden.
Dank cuFile, einem Bestandteil der GPUDirect Storage-Architektur, werden Daten hingegen mittels Direct Memory Access (DMA) direkt in den GPU-Speicher übertragen. Diese Architektur verhindert, dass die CPU bei Inferenzprozessen für künstliche Intelligenz, bei denen Millionen kleiner Datenübertragungen pro Sekunde stattfinden, blockiert wird.
Technischer Hintergrund
Quellenprofil
Quelle und redaktionelle Angaben
- Quelle
- videocardz.com
- Canonical
- https://svytech.de/artikel/nvidia-stellt-cufile-als-open-source-technologie-zur-verfugung-und-standardisiert-den-gpu-
- Quell-URL
- https://videocardz.com/newz/nvidia-blurs-the-line-between-gpu-memory-and-storage-with-open-source-cufile-for-ai-storage
Aehnliche Inhalte
Verwandte Themen und interne Verlinkung
Weitere Artikel aus aehnlichen Themenfeldern, damit Leser direkt im selben Kontext weiterlesen koennen.
US-Geheimdienst warnt vor begrenzter russischer Attacke gegen NATO-Mitglied
Nach aktualisierten Einschätzungen der US-Intelligenz könnte Präsident Wladimir Putin zwischen Herbst 2026 und 2029 eine begrenzte Attacke, etwa in Form ällen gegen baltische Staaten oder Polen, verüben, um das NATO-Bündnis zu zerschlagen. Verteidigungsbehörden der USA und der NATO bestreiten hingegen, dass Lieferungen an die Ukraine oder Spannungen im Nahen Osten die militärischen Vorräte des Bündnisses geschwächt haben, und betonen weiterhin ihre volle Einsatzbereitschaft.
07.08.2026
Live Redaktion
