Die Optimierung von k\u00fcnstlicher Intelligenz f\u00fcr Apple-Hardware hat einen weiteren Entwicklungsschritt vollzogen. Mit der Ver\u00f6ffentlichung der Version 0.6.0rc1 von oMLX am 15. August 2026 wurde eine experimentelle Funktion f\u00fcr das verteilte Serving \u00fcber mehrere Mac-Systeme hinweg eingef\u00fchrt.<\/p>\n
Diese Neuerung erlaubt es, die Rechenlast gro\u00dfer Sprachmodelle (LLMs) auf mehrere Endger\u00e4te aufzuteilen, was insbesondere bei speicherintensiven Modellen zu deutlichen Leistungsspr\u00fcngen f\u00fchrt.<\/p>\n
Signifikante Performance-Steigerung durch Multi-Mac-Cluster<\/p>\n
Die nun verf\u00fcgbare Version demonstriert das Potenzial von Clustern aus Apple-Silicon-Rechnern. In ersten Tests erreichte das Modell Qwen3.6-27B eine Geschwindigkeit von 28,6 Tokens pro Sekunde, wenn es auf zwei Macs verteilt betrieben wurde. Im Vergleich dazu kam das gleiche Modell auf einem einzelnen Mac lediglich auf 16,1 Tokens pro Sekunde.<\/p>\n
Diese Verteilung der Arbeitslast erm\u00f6glicht zudem den Betrieb von Modellen, deren Speicherbedarf die Kapazit\u00e4t einzelner Ger\u00e4te \u00fcbersteigt. So wurde im Rahmen der Ver\u00f6ffentlichung dokumentiert, dass ein MiniMax-M3-Modell mit einer Gr\u00f6\u00dfe von 225 GB erfolgreich \u00fcber einen Verbund aus zwei Macs mit 128 GB und 256 GB Arbeitsspeicher geladen werden konnte.<\/p>\n
Bereits am Vortag der aktuellen Ver\u00f6ffentlichung wurden Details zur Entwicklerversion oMLX v0.6.0.dev1 bekannt. Diese Version integriert experimentelles verteiltes Serving unter Nutzung von Metal- und CUDA-Schnittstellen. Ein besonderer Fokus lag hierbei auf der sogenannten Dekodierungs-Fairness auf Systemen mit M3 Ultra-Chips, bei der eine 43-fache Verbesserung erzielt werden konnte.<\/p>\n
Anzeige<\/p>\n
Wer das volle Potenzial seines Apple-Rechners f\u00fcr anspruchsvolle Aufgaben aussch\u00f6pfen m\u00f6chte, findet in diesem kostenlosen Ratgeber die entscheidenden Kniffe f\u00fcr den Start. Erfahren Sie, wie Sie Ihren Mac von Beginn an optimal konfigurieren und f\u00fcr maximale Leistung vorbereiten. Kostenloses Mac-Starterpaket jetzt herunterladen<\/a><\/p>\n