Apple Silicon auf Qwen 3.8: MLX.fast bringt 171 Prozent Leistungssteigerung
Die Open-Source-Community hat unter der Leitung die lokale Ausführungsgeschwindigkeit des Qwen 3.8 27B-Modells auf Apple-Silicon-Geräten durch Optimierungen der Speicherarchitektur und Nutzung 71 % auf eine Dekodierleistung von 56,4 Token pro Sekunde gesteigert. Während diese Leistung unter thermischen Grenzwerten validiert wurde, diskutieren Nutzer in der Community sowohl Sicherheitsaspekte bezüglich schädlicher Code-Einsendungen als auch den ingenieurwissenschaftlichen Wert der offenen Benchmark-Werte.
Kurzfassung
Warum das wichtig ist
- Die Open-Source-Community hat unter der Leitung die lokale Ausführungsgeschwindigkeit des Qwen 3.8 27B-Modells auf Apple-Silicon-Geräten durch Optimierungen der Speicherarchitektur und Nutzung 71 % auf eine Dekodierleistung von 56,4 Token pro Sekunde gesteigert.
- Während diese Leistung unter thermischen Grenzwerten validiert wurde, diskutieren Nutzer in der Community sowohl Sicherheitsaspekte bezüglich schädlicher Code-Einsendungen als auch den ingenieurwissenschaftlichen Wert der offenen Benchmark-Werte.
- Die Open-Source-KI-Community hat ein neues Tempo erreicht, um die Leistung beim Ausführen zu steigern.
SvyTech-Check
Redaktionelle Einordnung
Kernpunkt
Während diese Leistung unter thermischen Grenzwerten validiert wurde, diskutieren Nutzer in der Community sowohl Sicherheitsaspekte bezüglich schädlicher Code-Einsendungen als auch den...
Warum relevant
Nach Angaben des Softwareentwicklers Gajesh, der zuvor einen Optimierungswettbewerb initiiert hatte, der das Laguna 2.1-Modell auf Apple-Silicon-Architekturen um das 2,6-fache beschleunigte, wurde dieser...
Einordnung
SvyTech ordnet die Meldung aus x.com als Teil des Themenfelds Technologie ein und verweist auf den Originalartikel, damit Leser Fakten, Quelle und Kontext nachvollziehen koennen.
Nach Angaben des Softwareentwicklers Gajesh, der zuvor einen Optimierungswettbewerb initiiert hatte, der das Laguna 2.1-Modell auf Apple-Silicon-Architekturen um das 2,6-fache beschleunigte, wurde dieser Wettbewerb nun für Qwen 3.8-Modelle gestartet.
Durch den neuen Community-Wettbewerb auf der MLX.fast-Plattform erreichte das Qwen 3.8 27B-Modell auf Mac-Systemen eine Rekordgeschwindigkeit. 𝕏 @gajesh Geschwindigkeitsresonanz mit Multi-Modell-KI Bei der lokalen Optimierung des Qwen 3.8 27B-Modells wurden die nativen Multi-Token-Vorhersagefähigkeiten und spekulativen Inferenzverfahren, die in der KI-Architektur des Modells integriert sind, als Grundlage genommen.
Während der frühen Zugangsphase wurde durch Beiträge der Community eine Geschwindigkeitssteigerung um das 2,5-fache erzielt; mit den neuesten Veröffentlichungen auf der Plattform wurde dieser Wert auf über 171,5 % des Ausgangswerts angehoben.
Technischer Hintergrund
Quellenprofil
Quelle und redaktionelle Angaben
- Quelle
- x.com
- Canonical
- https://svytech.de/artikel/apple-silicon-auf-qwen-38-mlxfast-bringt-171-prozent-leistungssteigerung
- Quell-URL
- https://x.com/gajesh/status/2088690274109395239?s=46&t=xSm8buKf1OIAGIW3mj1qsg
Aehnliche Inhalte
Verwandte Themen und interne Verlinkung
Weitere Artikel aus aehnlichen Themenfeldern, damit Leser direkt im selben Kontext weiterlesen koennen.
Perowskit-Paneller übertreffen Silizium im Feldtest
Ein ät geführtes Forscherteam hat durch eine neue Bleicarboxylat-basierte Schutzschicht die Anfälligkeit über Umwelteinflüssen überwunden und damit industrielle Anwendungen ermöglicht. Im Rahmen eines Feldtests mit einer Leistung Module bei steigenden Temperaturen und Sonnenstrahlung deutlich mehr Strom als herkömmliche Silizium-Module, wobei ein kommerzielles Modul mit 0,72 Quadratmetern Fläche eine zertifizierte Effizienz von 22 % und eine stabile Leistung von 158,4 Watt erreichte.
15.08.2026
Live Redaktion
