Qwen3.5-397B-A17B ist die Weiterentwicklung des Qwen-Teams von Alibaba nach der Qwen3-Generation, Anfang 2026 als offene Weights unter einer Apache-2.0-Lizenz veröffentlicht. Der Name nennt die Architektur direkt: 397 Milliarden Parameter insgesamt, davon rund 17 Milliarden aktiv für jedes gegebene Token. Es ist ein spärliches Mixture-of-Experts-Modell, und Qwen positioniert es als ein vereintes Vision-Language-Fundament — ein einziges Modell, das von Anfang an gemeinsam auf Text, Bildern und Video trainiert wurde, statt ein Textmodell mit nachträglich aufgesetztem Vision-Adapter.
Unter der Haube
Laut Qwens eigener Modelldokumentation kombiniert die Architektur Gated DeltaNet — einen linearen Attention-Mechanismus — mit spärlichem MoE-Routing über 60 Schichten, angeordnet als wiederkehrende Blöcke aus linearer Attention plus MoE mit gelegentlich eingestreuten Full-Attention-Schichten. Die MoE-Schicht selbst trägt 512 Experten, von denen 11 pro Token aktiviert werden: 10 dynamisch ausgewählte Routed Experts plus ein Shared Expert, der stets aktiv ist. Diese Kombination — überwiegend lineare Attention für Effizienz, MoE für Kapazität, gelegentliche Full-Attention für jene Art langreichweitiger Abhängigkeit, mit der lineare Attention allein zu kämpfen hat — ist es, die ein Modell mit 397 Milliarden Gesamtparametern zu ungefähr den Rechenkosten eines dichten 17-Milliarden-Parameter-Modells pro Token laufen lässt.
Die Kontextlänge beträgt nativ 262.144 Token, und Qwen dokumentiert eine Erweiterung auf rund 1.010.000 Token über YaRN-Skalierung — eine Technik, die die Positionskodierung des Modells anpasst, um über die trainierte Kontextlänge hinaus zu generalisieren, typischerweise mit einem gewissen Qualitätskompromiss, je weiter eine Anfrage über das native Fenster hinausgeht.
Wo es glänzt
Qwen berichtet von starken Ergebnissen auf seiner eigenen Benchmark-Suite: 87,8 auf MMLU-Pro, 70,4 auf SuperGPQA und 94,8 auf dem HMMT-Februar-2025-Mathematikwettbewerb, dazu 85,0 auf MMMU und 86,7 auf MLVU für Bild- beziehungsweise Videoverständnis. Das sind Qwens eigene veröffentlichte Zahlen statt unabhängig reproduzierter Werte, sollten also als die Darstellung des Anbieters über den Fortschritt seines eigenen Modells gelesen werden — zusammengenommen beschreiben sie aber ein Modell, das für breites, allgemeines Reasoning und multimodales Verständnis gebaut ist, nicht für einen engen Spezialisten.
Die Open-Weights-Lizenz ist selbst ein praktischer Vorteil: Apache 2.0 erlaubt Self-Hosting, Fine-Tuning und Weiterverbreitung ohne die Lizenzreibung eines geschlossenen, reinen API-Modells — wichtig für Teams, die Inferenz auf eigener Infrastruktur betreiben oder das Modell an eine enge Domäne anpassen müssen.
Wo es an Grenzen stößt
Qwens eigene Dokumentation rahmt diese Version in vielen Dimensionen als „generationsübergreifende Parität mit Qwen3" — die Gewinne gegenüber der vorherigen Generation werden also als breit und inkrementell dargestellt statt als Sprung, und die Sprache in der Modellkarte vermeidet bewusst die Behauptung eines dramatischen Fortschritts. Wie bei jedem Mixture-of-Experts-Modell bedeutet die Diskrepanz zwischen Gesamt- und aktiven Parametern, dass das Modell weit mehr Speicher braucht, um vollständig vorgehalten zu werden, als seine Rechenkosten pro Token vermuten lassen — 397 Milliarden Parameter müssen irgendwo resident sein, auch wenn bei jeder einzelnen Anfrage nur ein Bruchteil davon feuert, was bestimmt, welche Hardware Self-Hosting tatsächlich erfordert.
Wann Sie es wählen
Dieses Modell passt zu allgemeinem Reasoning, Coding und multimodalen Workloads, bei denen ein Team entweder die Option zum Self-Hosting oder das Kostenprofil eines sehr großen Modells möchte, ohne die vollen Rechenkosten eines dichten Modells pro Anfrage zu zahlen. Es ist eine vernünftige Standardwahl für Teams, die bereits ins Qwen-Ökosystem investiert haben, oder für Workloads, die ein wirklich großes natives Kontextfenster brauchen, ohne sich auf aggressive Skalierungstricks zu verlassen.
Alternativen im Vergleich
Die vorherige Qwen3-Generation bleibt für Teams verfügbar, die das zusätzliche Bild- und Videoverständnis dieser Version nicht benötigen. Für Workloads, die einen kleineren Fußabdruck brauchen, hat Qwen zudem deutlich kleinere Modelle in derselben Produktfamilie veröffentlicht, die etwas Leistungsfähigkeit gegen einen viel leichteren Speicherbedarf eintauschen — es lohnt sich, diese direkt gegen dieses Modell auf der konkreten Aufgabe zu benchmarken, bevor man sich auf das größere festlegt.