Modelllandschaft 2026

Modelllandschaft 2026: offene Gewichte, chinesische Modelle und Soofi S

Dieser Begleiter hält einen beweglichen Stand fest. Er ist keine Rangliste. Modellnamen, Zugänge, Lizenzen und Benchmarkwerte ändern sich schneller als die Grundlagen im Buch.

Kapitel 3 ordnet Sprachmodelle neben andere KI-Modelle ein. Kapitel 20 erklärt die dauerhaften Fragen zu Daten, Offenheit, Betrieb und Kontrolle. Hier geht es nur um ausgewählte Veröffentlichungen, die am 5. August 2026 für diese Fragen nützlich waren.

Was mit „Fortschritt chinesischer Modelle“ gemeint ist

Im Januar 2025 veröffentlichte DeepSeek die Gewichte und den Bericht zu DeepSeek-R1. Der Bericht beschrieb Reinforcement Learning, eine mehrstufige Nachbearbeitung und die Destillation in kleinere Modelle. Destillation bedeutet, dass ein kleineres Modell aus Ausgaben eines größeren Modells lernt. Repository und Gewichte standen unter der MIT-Lizenz. Quellenstand: DeepSeek-R1-Repository vom 20. Januar 2025 und technischer Bericht vom 22. Januar 2025, geprüft am 5. August 2026.

Im Juli 2025 folgte Kimi K2 von Moonshot AI. Der technische Bericht nennt rund eine Billion Gesamtparameter, 32 Milliarden aktive Parameter und den Optimierer MuonClip. Ein Optimierer steuert beim Training die Änderung der Gewichte. Quellenstand: Kimi-K2-Bericht von 2025, geprüft am 5. August 2026.

Moonshot veröffentlichte Kimi K3 am 16. Juli 2026 als Dienst und stellte die Gewichte später im offiziellen Repository bereit. Die Modellkarte nennt 2,8 Billionen Gesamtparameter und rund 104 Milliarden aktive Parameter pro Token. 16 von 896 spezialisierten Experten sowie zwei gemeinsame Experten arbeiten an einem Token. 69 Schichten nutzen Kimi Delta Attention, kurz KDA. Weitere 24 nutzen Gated Multi-Head Latent Attention. Quellenstand: offizielle Kimi-Dokumentation vom 16. Juli 2026 und Moonshot-Repository mit Gewichten und Lizenz, geprüft am 5. August 2026.

Moonshot führt die behauptete rund 2,5-fache Verbesserung der gesamten Skalierungseffizienz gegenüber Kimi K2 auf ein Architekturpaket aus KDA, Attention Residuals und Stable LatentMoE zurück. Attention Residuals sind zusätzliche Verbindungen, über die Attention-Ausgaben früherer Schichten in spätere Attention-Rechnungen einfließen. Stable LatentMoE ist die im Bericht stärker sparsam aktivierte Expertenstruktur. Getrennt davon dokumentiert Moonshot quantisierungsbewusstes Training mit MXFP4-Gewichten und MXFP8-Aktivierungen. Bei diesem Verfahren berücksichtigt das Training bereits die gröbere Zahlendarstellung. Der Vergleich stammt vom Anbieter beider Systeme und ist keine unabhängige Messung. Quellenstand: Moonshot-Repository und technischer Bericht zu Kimi K3, geprüft am 5. August 2026.

Diese drei Veröffentlichungen zeigen einen technischen Verlauf. Reasoning-Verfahren, sparsam aktivierte Experten, neue Attention-Varianten und offene Gewichte wurden in großen Projekten kombiniert. Sie zeigen nicht, dass „China“ als einheitlicher Akteur ein anderes Land überholt hat.

Die Labore unterscheiden sich. Ihre Modelle haben andere Zwecke, Trainingsdaten, Werkzeuge und Lizenzen. Auch die Lieferketten sind international. Rechenchips, offene Laufzeiten, Forschungsarbeiten und Datensätze stammen aus mehreren Ländern. Exportkontrollen können Anreize zur Effizienz verstärken. Aus den Primärquellen lässt sich aber keine einzelne Ursache für den Fortschritt ableiten.

Drei Veröffentlichungen, bewusst ohne Gesamtrang

Jede Zeile der folgenden Tabelle nennt ihren eigenen Quellenstand. Die Angaben vergleichen veröffentlichte Artefakte. Sie vergleichen keine allgemeine Intelligenz.

Veröffentlichung	Belegter Beitrag	Zugang und Lizenz	Quellenstand
DeepSeek-R1	Bericht zu Reinforcement Learning und Destillation für Reasoning sowie veröffentlichte Gewichte	Gewichte und Repository unter MIT, abgeleitete Modelle können zusätzliche Ausgangslizenzen haben	Offizielles Repository vom 20. Januar 2025 und Bericht vom 22. Januar 2025, geprüft am 5. August 2026
Kimi K2	MoE-Modell mit rund einer Billion Gesamtparametern und MuonClip	Gewichte verfügbar, Modified-MIT-Lizenz des Projekts prüfen	Technischer Bericht von 2025 und offizielles Repository, geprüft am 5. August 2026
Kimi K3	Größeres MoE-Modell mit KDA, Gated MLA, nativer Bildverarbeitung und Gewichten im MXFP4-Format	API und Gewichte verfügbar, eigene Kimi-K3-Lizenz mit Bedingungen für große kommerzielle Dienste und Produkte	Kimi-Veröffentlichung vom 16. Juli 2026 sowie offizielles Repository und Lizenz, geprüft am 5. August 2026

Kimi K3 ist damit Open Weights, aber nicht uneingeschränkt nutzbar. Die Lizenz verlangt für bestimmte große Model-as-a-Service-Geschäfte eine gesonderte Vereinbarung. Für sehr große Produkte enthält sie außerdem eine Namensnennungspflicht. Die Trainingsdaten sind nicht in einer Form dokumentiert, die allein durch den Download der Gewichte sichtbar würde.

Moonshot veröffentlicht im Kimi-K3-Repository eine große Benchmarktabelle. Die Tabelle mischt eigene Messungen, externe Ranglisten und verschiedene Agentengerüste. Ein Agentengerüst ist die Software, die Werkzeuge, Speicher und Abläufe um das Modell organisiert. Einige Modelle liefen mit Kimi Code, andere mit Claude Code oder Codex. Reasoning-Einstellungen und Werkzeuge unterschieden sich ebenfalls. Die Werte sind deshalb Anbieterangaben zu benannten Testaufbauten. Sie sind keine universelle Rangfolge der Modelle oder ihrer Herkunftsländer. Quellenstand der Vergleiche: Erläuterungen im Kimi-K3-Repository, dort je nach Benchmark mit Ständen vom 9., 16. oder 23. Juli 2026, geprüft am 5. August 2026.

Soofi S: viel offengelegt, am Stichtag noch geschlossene Beta

Das deutsche Soofi-Konsortium stellte im Juli 2026 seinen Pretraining-Bericht zu Soofi S bereit. Das Modell ist ein Grundmodell für Deutsch und Englisch. Ein Grundmodell erzeugt zunächst Textfortsetzungen. Für einen fertigen Assistenten braucht es weitere Anpassung, Sicherheitstests und eine Anwendung.

Der Bericht nennt 31,6 Milliarden Gesamtparameter und rund 3,2 Milliarden aktive Parameter pro Token. Die 52 Schichten folgen der veröffentlichten Architektur von Nvidias Nemotron 3 Nano:

• 23 Mamba-2-Schichten verarbeiten Folgen mit einem begrenzten internen Zustand.
• 23 Mixture-of-Experts-Schichten aktivieren nur einen Teil der Gewichte.
• 6 Schichten mit Grouped-Query Attention greifen gezielt auf frühere Tokens zu.

Nur die sechs Attention-Schichten brauchen einen mit dem Kontext wachsenden KV-Cache. Ein KV-Cache ist der Zwischenspeicher für frühere Tokens. Der Bericht beschreibt dadurch einen langsameren Cache-Zuwachs als bei einem vergleichbar großen reinen Transformer.

Soofi S wurde laut Bericht auf ungefähr 27 Billionen Tokens trainiert. Der Anteil deutscher Daten stieg in späteren Trainingsphasen. Das Training lief vom 24. März bis 13. Mai 2026 auf bis zu 512 B200-GPUs in der Industrial AI Cloud der Deutschen Telekom in München. Quellenstand: Soofi-Bericht, Fassung 3 vom 22. Juli 2026, offizielle Modellkarte und Betreiberangaben zur Industrial AI Cloud vom 4. Februar 2026, geprüft am 5. August 2026.

Der Bericht kündigt Gewichte, ausgewählte Zwischenstände, genaue Datenanteile, Hyperparameter sowie Trainings- und Auswertungscode unter offenen Bedingungen an. Datenartefakte sollen erscheinen, soweit ihre Lizenzen das erlauben. Kommerziell lizenzierte Quellen werden nur über Anteile und Statistiken beschrieben.

Aber:

Am 5. August 2026 war die Modellkarte mit „closed-beta“ gekennzeichnet. Sie bezeichnet den verfügbaren Stand ausdrücklich als Forschungsvorschau und nicht als offene Veröffentlichung. Der endgültige Stand soll später ohne Zugangsschranke und unter einer freizügigen Lizenz erscheinen. Eine Ankündigung ist noch keine erteilte Lizenz. Soofi S war am Stichtag daher ein weitgehend dokumentiertes Projekt mit angekündigter Open-Source-Veröffentlichung, aber noch kein allgemein verfügbares Open-Source-Modell.

Kimi K3 und Soofi S vergleichen unterschiedliche Dinge

Die Spaltenüberschriften tragen den Quellenstand für jede folgende Vergleichszeile. Wo die Projekte etwas nicht gleich messen, steht keine erfundene gemeinsame Zahl.

Aspekt	Kimi K3, Moonshot-Repository und Lizenz, geprüft 5. August 2026	Soofi S, Bericht v3 vom 22. Juli und Modellkarte, geprüft 5. August 2026
Veröffentlichter Zweck	Multimodales Reasoning, Programmierung, Wissensarbeit und Agenten	Deutsch-englisches Grundmodell für weitere Anpassung und Forschung
Gesamtparameter	2,8 Billionen	31,6 Milliarden
Aktive Parameter pro Token	rund 104 Milliarden	rund 3,2 Milliarden
Architektur	93 Schichten, 69 KDA und 24 Gated MLA, MoE mit 896 spezialisierten Experten	52 Schichten, davon 23 Mamba-2, 23 MoE und 6 Grouped-Query Attention, Aufbau nach Nemotron 3 Nano
Zugang am Stichtag	API und Gewichte verfügbar	ausgewählte geschlossene Beta, endgültige offene Veröffentlichung angekündigt
Lizenz am Stichtag	eigene Kimi-K3-Lizenz mit kommerziellen Bedingungen	für den Beta-Stand keine allgemeine offene Lizenz, freizügige Endlizenz angekündigt
Trainingsdaten	Gewichte und Architektur verfügbar, aber keine vollständige Provenienz des Trainingsbestands	genaue Datenmischung veröffentlicht, einzelne lizenzierte Quellen nur als Statistik, Datenartefakte soweit erlaubt angekündigt
Infrastrukturangabe	Repository beschreibt Modell und empfohlene Laufzeiten, aber in den hier geprüften Quellen keine vollständige Trainingsinfrastruktur	Training auf der von der Deutschen Telekom betriebenen Industrial AI Cloud in München dokumentiert
Benchmarkaussagen	große Tabelle des Anbieters mit mehreren Gerüsten, Quellen und Stichtagen	Auswertung des Projektteams über 16 offene Grundmodelle insgesamt, also Soofi S und 15 andere Modelle, in einer gemeinsamen Testumgebung

Die Parameterzahlen lassen sich arithmetisch vergleichen. Die Fähigkeiten nicht. Kimi K3 ist ein nachbearbeitetes multimodales Modell für Werkzeuge und lange Abläufe. Soofi S ist im Bericht vor allem ein Grundmodell. Ein Benchmark eines Chat- oder Agentensystems misst außerdem Anwendung, Werkzeuge und Rechenbudget mit.

Auch Soofis Benchmarktabelle braucht diese Grenze. Der Bericht nennt Vorteile gegenüber verglichenen offenen Grundmodellen. Das sind Messungen des Projektteams, keine unabhängige Rangliste. Die Veröffentlichung der Testdaten und Auswertung hilft bei der Prüfung. Sie ersetzt keine unabhängige Wiederholung.

Der dokumentierte Soofi-Vorfall mit verunreinigten Tests

Nach der ersten Berichtsfassung fanden Mitglieder der Gemeinschaft abgewandelte Prüfaufgaben in einem Trainingsbestand. Der Bericht v3 dokumentiert die Ursache. Ein Import vertraute bei vier reinen Evaluationsdatensätzen auf irreführende Split-Bezeichnungen wie „train“ oder „validation“. Er prüfte nicht inhaltlich, ob diese Splits wirklich Trainingsdaten enthielten. Betroffen waren GPQA, TruthfulQA, BLiMP und Inverse Scaling.

Das Team entfernte GPQA-Diamond und die deutsche Variante aus Tabellen und Abbildungen. Es berechnete gemeinsame Kennzahlen ohne GPQA neu, zog betroffene frühere Zusammenfassungen zurück und veröffentlichte einen bereinigten Datenstand. Für alle vier betroffenen Datensätze weist der Bericht darauf hin, dass spätere Ergebnisse nicht als unbeeinflusste Fähigkeit gelesen werden sollten. Quellenstand: Abschnitt 4.3 des Soofi-Berichts v3 vom 22. Juli 2026, geprüft am 5. August 2026.

Der Vorfall wertet weder alle Ergebnisse auf noch ab. Er zeigt etwas Praktisches: Offengelegte Daten und Prüfverfahren machen Fehler auffindbar. Offenlegung verhindert den Fehler nicht. Sie erlaubt aber eine konkrete Korrektur.

So wird dieser Begleiter aktualisiert

Bei jeder Aktualisierung werden dieselben Schritte in dieser Reihenfolge ausgeführt:

1. Stichtag in der ersten Zeile ändern.
2. Offizielle Modellkarte, Gewichtsdateien und veröffentlichte Lizenz getrennt prüfen.
3. Bei angekündigten Veröffentlichungen feststellen, ob der Zugang tatsächlich ohne Schranke möglich ist.
4. Technischen Bericht, Datenbeschreibung und Trainingscode auf neue Fassungen prüfen.
5. Für jede Vergleichszeile Quelle, Veröffentlichungsdatum und Abrufdatum erneuern.
6. Anbieterwerte, unabhängige Messungen und eigene Schlussfolgerungen sprachlich trennen.
7. Geänderte Testaufbauten, Werkzeuge, Reasoning-Budgets und bekannte Verunreinigungen notieren.
8. Alte Angaben nicht still überschreiben, sondern in der Versionsgeschichte dieses Dokuments nachvollziehbar ändern.

Neue Modelle kommen nur hinzu, wenn sie eine neue technische, rechtliche oder betriebliche Frage zeigen. Eine weitere Ranglistenposition allein reicht nicht. Die dauerhaften Auswahlregeln bleiben in Kapitel 20.