\n English<\/a>.<\/p>\n
It was translated with technical assistance and editorially reviewed before publication.\n <\/p>\n
Vom Sommerloch keine Spur, im Gegenteil: Die Meldungen zu neuen Sprachmodellen \u00fcberst\u00fcrzten sich in den vergangenen Wochen regelrecht. W\u00e4hrend man aus China vor allem Superlative bez\u00fcglich der Modellgr\u00f6\u00dfen h\u00f6rt, sind die offenen amerikanischen Modelle aktuell eher etwas kleiner \u2013 immerhin gibt es endlich welche. Eine andere Art von Superlativen aus den USA sind Modelle, die sich nicht an Vorgaben halten und andere Websites hacken<\/a>.<\/p>\n Weiterlesen nach der Anzeige<\/p>\n \n Prof. Dr. Christian Winkler besch\u00e4ftigt sich speziell mit der automatisierten Analyse nat\u00fcrlichsprachiger Texte (NLP). Als Professor an der TH N\u00fcrnberg konzentriert er sich bei seiner Forschung auf die Optimierung der User Experience.\n <\/p>\n In Europa tut sich zumindest ein wenig: Apertus aus der Schweiz gibt es in einer verbesserten Version und endlich mit Soofi auch ein deutsches Modell, das aber noch Startschwierigkeiten hat.<\/p>\n Gro\u00dfe und kleine chinesische Modelle<\/p>\n Als der chinesische Anbieter Moonshot das neue Kimi K3-Modell<\/a> ank\u00fcndigte, gingen Schockwellen fast wie bei DeepSeek R1<\/a> durch die LLM-Community. Ein derart gro\u00dfes Modell mit 2,8 Billionen Parametern war vorher mit offenen Gewichten noch nicht verf\u00fcgbar. Zudem erwies sich Kimi K3 in vielen Tests als \u00e4u\u00dferst stark und ist in den einschl\u00e4gigen Benchmarks wie arena.ai oder artificialanalysis.ai stets auf den Top-Pl\u00e4tzen zu finden.<\/p>\n \n (Bild:\u00a0mooam \/ 123rf)\n <\/p>\n Am 15. Oktober 2026 widmet sich die Online-Konferenz \u201eLLMs im Unternehmen<\/a>\u201c den lokalen Modellen: F\u00fcr welche Anwendungen sie sich lohnen, welche Hardware erforderlich ist und wie man die Performance optimiert.<\/p>\n Neben der schieren Gr\u00f6\u00dfe hat Moonshot einige Optimierungen zu bieten, die das Modell in der Inferenz deutlich gegen\u00fcber Kimi K2.6 deutlich beschleunigen. Dazu geh\u00f6rt ein optimierter Attention-Mechanismus, den Moonshot Kimi Delta Attention (KDA) nennt. Dabei wechseln sich lineare und globale Attention Layer im Verh\u00e4ltnis 3:1 ab. Das spart viel Rechenzeit und Speicherbedarf<\/a>, was besonders bei langen Kontexten ins Gewicht f\u00e4llt. Spannend ist auch die Mixture-of-Experts-Architektur (MoE), denn Kimi nutzt sage und schreibe 896 Experten. So viele waren bisher in offenen Modellen nicht verf\u00fcgbar.<\/p>\n Dankenswerterweise hat Moonshot die Gewichte auch ins kompakte MXFP4-Format<\/a> \u00fcberf\u00fchrt und damit den Speicherbedarf im Vergleich zu dem sonst oft \u00fcblichen bfloat16 auf ein Viertel reduziert. Dennoch sind auch bei kleinen Kontexten mindestens 1,5 TByte RAM erforderlich, was das Budget vieler Firmen sprengt. Eine lokale Ausf\u00fchrung wird damit nur f\u00fcr die wenigsten in Frage kommen, ist aber m\u00f6glich. Moonshot bietet Kimi K3 auch als Clouddienst an, dessen Kosten im Vergleich zu anderen Modellen \u00fcberschaubar sind.<\/p>\n Weiterlesen nach der Anzeige<\/p>\n Auch beim Training nutzte Moonshot einige kreative Ideen, um die vielen Experten gleichm\u00e4\u00dfig zu trainieren. Laut Anbieter hat das Modell zudem seine eigenen Kernels optimiert, sodass es nun die eigene Inferenz schneller ausf\u00fchren kann.<\/p>\n In eigenen Tests<\/a> funktionierte das Modell hervorragend und gab ausf\u00fchrliche Antworten. Lediglich bei heiklen politischen Fragen war das Modell genau auf Kurs der Kommunistischen Partei.<\/p>\n Anfang August erschien mit Qwen3.8-Max<\/a> das n\u00e4chste gro\u00dfe chinesische Modell. \u00c4hnlich zu Kimi K3 steht Qwen3.8-Max zun\u00e4chst nur per API zur Verf\u00fcgung, aber die Gewichte sollen noch folgen. Auch das neue Qwen-Modell ist sehr gro\u00df, hat aber \u201enur\u201c 2,4 Billionen Parametern.<\/p>\n Alibaba hat Qwen3.8 die Aufgabe gegeben, das oh-my-cli-Projekt zu implementieren. Dabei handelt es sich um ein kleines Coding-Agentenframework f\u00fcr die Kommandozeile. Nach eigenen Aussagen hat das Modell fast 16 Tage autark daran gearbeitet, was beachtlich w\u00e4re. Auch wissenschaftliche Artikel hat das Modell \u00fcberpr\u00fcft, den darin verwendeten Programmcode verstanden und sogar optimiert. Der Artikel ist voller Superlative \u2013 was davon wirklich umsetzbar ist und mit welchem Aufwand, m\u00fcssen unabh\u00e4ngige Tests verifizieren.<\/p>\n Qwen3.8 Max schneidet in den Benchmarks gut ab. Besonders im Bereich Webentwicklung scheint es mit den besten \u2013 auch geschlossenen \u2013 Modellen mithalten zu k\u00f6nnen. In eigenen Tests<\/a> antwortet das Modell kompetent, war allerdings bei politischen Fragen \u00e4u\u00dferst schweigsam.<\/p>\n Leider finden sich bisher wenige technische Details zu Qwen3.8 Max. Es liegt nahe, dass sich die Architektur im Vergleich zu der offenen Qwen3.6-Reihe kaum ver\u00e4ndert hat. Genaueres wird man erst nach der Ver\u00f6ffentlichung der Gewichte herausfinden. Die Community erwartet sie sehnlich \u2013 nicht nur wegen Qwen3.8 Max, sondern insbesondere auch wegen des gleichzeitig angek\u00fcndigten Qwen3.8-27B. Das Vorg\u00e4ngermodell Qwen3.6-27B ist f\u00fcr viele lokale Anwender noch immer Mittel der Wahl, weil es insbesondere mit Multi-Token Prediction (MTP) gute Performance bietet (mehr als 100 Token\/s auf einer RTX 5090) und sich daher hervorragend f\u00fcr lokale agentische Systeme eignet.<\/p>\n Vermutlich ist das Ende der Fahnenstange bei den gro\u00dfen chinesischen Modellen damit noch nicht erreicht. Die normalerweise zuverl\u00e4ssige Financial Times berichtet, dass die TikTok-Mutter Bytedance an einem Modell mit 10 Billionen Parametern arbeitet<\/a>. Damit n\u00e4hert sich die Zahl der Parameter denen, der besten geschlossenen Modelle. Bei Anthropics Mythos 5 vermutet man acht Billionen Parameter, bei Fable 5 des gleichen Anbieters f\u00fcnf Billionen.<\/p>\n Flash-Modell von DeepSeek<\/p>\n Deutlich kleiner als Kimi K3 und Qwen3.8 Max ist das DeepSeek-Modell DeepSeek-V4-Flash-0731. Dennoch ist es spannend, weil es das deutlich gr\u00f6\u00dfere DeepSeek-V4-Pro (Preview) in vielen Benchmarks schl\u00e4gt. Die unscheinbare Versionsnummer 0731 \u2013 f\u00fcr den 31.07.2026 \u2013 hat hier viel bewegt und das Modell enorm verbessert.<\/p>\n F\u00fcr ein Flash-Modell hat es allerdings viele Parameter: 284 Milliarden, von denen 13 Milliarden aktiv sind. Dankenswerterweise hat DeepSeek das Modell in Vier-Bit-Pr\u00e4zision bei den Experten trainiert, sodass man zwar nur 168 GByte Daten herunterladen und im Speicher unterbringen muss \u2013 das aber allein f\u00fcr die Gewichte. Mit solchen Modellen m\u00f6chte man normalerweise mit einem gro\u00dfen Kontext arbeiten, der zus\u00e4tzlich Platz in Anspruch nimmt.<\/p>\n Dass das Flash-Modell als stark gilt, hat die Community auf den Plan gerufen und einige interessante Projekte hervorgebracht. An erster Stelle sei hier vLLM-Moet<\/a> genannt, das den Betrieb des Modells auf einer RTX 5090 mit immerhin 31 Token\/s erm\u00f6glicht. Das ist deutlich schneller, als man mitlesen kann. Wer \u00fcber eine RTX 6000 verf\u00fcgt, kann das Modell gar mit 161 Token\/s betreiben. Noch schneller geht es mit vier RTX 5090. In beiden F\u00e4llen sind allerdings schon f\u00fcnfstellige Investitionen notwendig.<\/p>\n<\/p>\n
<\/p>\n