Anthropic Eyes UK Startup’s Fusion Tech verspricht deutlich kostengünstigere und schnellere KI-Inferenz als NVIDIAs Groq

Derzeit bezieht Anthropic seine

Laut einem aktuellen Bericht frühe Gespräche mit einem in Großbritannien ansässigen Startup namens Fractile verwickelt sein. Fractile gewinnt im KI-Bereich an Bedeutung durch seine neue Technologie, die es Memory Compute Fusion Architecture nennt.

Die Architektur funktioniert, indem sie weniger Daten an das DRAM sendet, die Abhängigkeit vom Außenspeicher reduziert und den gesamten Datenfluss innerhalb des Chips selbst durchführt. Hierfür hat das Unternehmen seine eigene SRAM-Technologie entwickelt, ähnlich den NVIDIA Groq LPUs oder Groq 3 LPX.

Die Übernahme öglichte es ihr, die

Die Übernahme öglichte es ihr, die neueste LPU in ihr bevorstehendes Vera Rubin Ökosystem zu integrieren. Diese Chips dienen als AI Inference Booster und dies wird durch die Einbindung großer Mengen an SRAM und superhoher Bandbreite für Scale-in und Scale-up erreicht.

Daher bezeichnet NVIDIA selbst die Groq 3 LPU als Inference Accelerator, die 500 MB SRAM, 150 TB/s SRAM-Bandbreite und 2,5 TB/s Scale-up-Bandbreite enthält. Diese sind im Groq 3 LPX Rack verpackt, das 256 LPUs und massive 128 GB SRAM für die Verarbeitung mit geringer Latenz beherbergt.

Fractiles Lösung ist ähnlich, obwohl das Unternehmen behauptet, dass seine Architektur eine Beschleunigung bei der KI-Inferenz bei gleichzeitiger Kostensenkung im Vergleich zu NVIDIAs Groq anstrebt. Das Team , das an dem Projekt arbeitet, stammt aus großen Firmen wie NVIDIA, Graphcore und Imagination Technologies.

Das sind einige große Zahlen, aber

Das sind einige große Zahlen, aber das Unternehmen hat noch keine Testchips entwickelt, daher können diese frühen Gespräche den Prozess der internen Chipentwicklung.

Anthropic verlässt sich immer noch stark auf externe Chiphersteller, da es einen Multi-Gigawatt-Deal mit Broadcom unterzeichnet hat, und Berichte deuten darauf hin, dass es bald einen vierten Namen zu seinem Compute-Portfolio in Form ügen wird.

Über den Autor: Hassan Mujtaba, ein ausgebildeter Software-Ingenieur und PC-Enthusiast aus Leidenschaft, ist der Senior Editor für den Hardware-Bereich der Branche spezialisiert er sich auf tiefgehende technische Analysen nächsten Generation, Motherboards und Kühllösungen.

Seine Arbeit umfasst nicht nur Breaking News zu kommenden Technologien, sondern auch ausführliche Hands-on-Reviews und Benchmarking. Sie Wccftech auf Google, um mehr zu erhalten.