Inkling 2 Small: 594 Milliarden, 17 Milliarden aktiv

„Small“ wirkt bei 594 Milliarden Parametern wie ein Etikett aus einer anderen Größenordnung. Dennoch trägt das am 5. November 2026 vorgestellte Inkling 2 Small genau diesen Zusatz. Thinking Machines Lab bietet das Modell zunächst über seine Plattform Tinker mit geschlossenen Gewichten an. Die vollständigen Gewichte will das Unternehmen nach externen Sicherheitstests und Red-Teaming unter Apache 2.0 veröffentlichen. Am 6. November ist diese Freigabe noch angekündigt, aber nicht vollzogen. So rückt eine grundsätzliche Frage in den Vordergrund: Wie aussagekräftig ist die Gesamtzahl der Parameter noch, wenn eine Mixture-of-Experts-Architektur bei jeder Berechnung lediglich einen Teil des Modells aktiviert? Recherchequelle: Thinking Machines Lab→

Wie ein Riese zum kleinen Modell wird

Bei Inkling 2 Small wird nicht das gesamte Modell für jedes Token gleichermaßen herangezogen. Für jedes Token werden acht von 384 Experten ausgewählt. Unter Einbeziehung der übrigen jeweils verwendeten Modellteile beziffert Thinking Machines den aktiven Parameterumfang auf insgesamt 17 Milliarden. Hinter diesem Verfahren steht ein multimodaler, autoregressiver Transformer mit 48 Decoder-Schichten und einer sparsamen Mixture-of-Experts-Architektur.

Das Modell nimmt Text und Bilder entgegen und erzeugt Text. Als maximale Kontextlänge nennt die Modellkarte eine Million Token. Der Zusatz „Small“ lässt sich als relative Einordnung innerhalb der Modellfamilie verstehen; eine formale Definition des Namens veröffentlicht Thinking Machines in den geprüften Unterlagen jedoch nicht. Aus der Zahl von 17 Milliarden aktiven Parametern lässt sich dagegen weder eine entsprechend kleine Gewichtsdatei noch die Eignung für gewöhnliche lokale Rechner ableiten. Der vollständige Parameterbestand bleibt erheblich größer.

Zum Stand der Vorstellung führt die Modellkarte die Tinker Terms of Use als Lizenz auf. Modellgröße lässt sich hier folglich nicht mehr mit einer einzigen Zahl beschreiben, sondern hängt davon ab, welcher Teil des Systems betrachtet wird. Recherchequelle: Modellkarte von Inkling 2 Small→

Parameterzahlen verlieren ihre Eindeutigkeit

Bei dichten Modellen konnte eine einzelne Parameterzahl noch vergleichsweise unmittelbar auf den Rechenumfang verweisen, weil grundsätzlich der gesamte Bestand an der Verarbeitung beteiligt ist. Bei einer sparsamen Mixture-of-Experts-Architektur verliert diese einzelne Kennzahl ihre Eindeutigkeit: Gesamtbestand und aktiver Anteil beschreiben nicht mehr dasselbe. Hinzu kommen Speicherbedarf, Kontextlänge und der Aufwand der konkreten Berechnung.

Der Vergleich innerhalb der Modellfamilie zeigt die Verschiebung. Das im Juli 2026 veröffentlichte Inkling-Small besitzt 276 Milliarden Parameter, von denen 12 Milliarden aktiv sind. Bei Inkling 2 Small wächst der Gesamtbestand auf 594 Milliarden, während der aktive Anteil 17 Milliarden erreicht. Daraus lässt sich jedoch kein entsprechender Zuwachs bei Geschwindigkeit oder Effizienz ableiten. Auch Architektur, Trainingsverfahren, Kontextverarbeitung und Ausgabelänge prägen die gemessene Leistung. Recherchequelle: Thinking Machines Lab→

Das größere Inkling wurde wiederum mit 975 Milliarden Gesamtparametern und 41 Milliarden aktiven Parametern veröffentlicht; seine Modellkarte weist offene Gewichte unter Apache 2.0 aus. Recherchequelle: Inkling-Modellkarte→

Wie wirtschaftlich ein solcher Aufbau arbeitet, zeigt daher nicht das Größenetikett, sondern erst der Betrieb.

Stark im Test, langsam auf der Strecke

Im Artificial Analysis Intelligence Index erreicht Inkling 2 Small 30,6 Punkte, auf der Übersichtsseite gerundet 31; der Median der dort herangezogenen Modelle einer ähnlichen Preiskategorie liegt bei 23. Das gute Ergebnis geht in dieser Messung allerdings mit vergleichsweise langen Laufzeiten einher. Mit Stand vom 6. November 2026 weist die fortlaufend aktualisierte Plattform 135 Token pro Sekunde und 34,15 Sekunden bis zum ersten Antwort-Token aus.

Die Zeit pro Indexaufgabe ist eine gewichtete Rechengröße: Artificial Analysis setzt die durchschnittliche Zahl der Ausgabetoken je Aufgabe ins Verhältnis zur gemessenen End-to-End-Ausgabegeschwindigkeit und berücksichtigt dabei die Gewichtung der einzelnen Benchmarks. Mit Stand vom 6. November 2026 weist die Plattform 18,5 Minuten je Indexaufgabe aus; der Median der Vergleichsgruppe liegt bei 7,0 Minuten. Auch bei der Textmenge liegt Inkling 2 Small mit insgesamt 154 Millionen erzeugten Token über dem Vergleichswert von 89,8 Millionen. Für den getesteten Zugang werden 0,30 Dollar je Million Eingabe-Token und 1 Dollar je Million Ausgabe-Token ausgewiesen. Recherchequelle: Artificial Analysis→

Die Zahlen gelten für diesen Benchmark, dessen Aufgaben und den jeweils untersuchten Zugang. Eine allgemeine Rangfolge lässt sich daraus nicht ableiten. Sie zeigen jedoch, dass ein geringer aktiver Anteil am gesamten Modell weder kurze Antwortzeiten noch knappe Ausgaben garantiert. Auch die Bedingungen des Zugangs gehören deshalb zur praktischen Effizienz.

Die Gewichte kommen nicht sofort

Der Zugang zu einem Modell und die Veröffentlichung seiner Gewichte sind zwei verschiedene Stufen. Inkling 2 Small kann zunächst über Tinker für Sampling und Fine-Tuning verwendet werden. Am 6. November sind die vollständigen Gewichte nach den zugänglichen Angaben noch nicht freigegeben. Thinking Machines beabsichtigt, sie in der Woche nach der Vorstellung unter Apache 2.0 zu veröffentlichen, sobald externe Sicherheitstests und Red-Teaming abgeschlossen sind. Auch herunterladbare Checkpoints sollen dann verfügbar werden. Bis zu dieser Freigabe nennt die Modellkarte die Tinker Terms of Use als Lizenz.

Diese Reihenfolge folgt einem Konzept, das das Unternehmen bereits im Juli vorgestellt hat. Nach Darstellung des Unternehmens soll der vorläufige Betrieb über kontrollierte Zugänge zusätzliche Zeit für technische Prüfungen und externe Begutachtung schaffen. Zugleich sollen Organisationen, die an Schutzmaßnahmen arbeiten, das Modell vor einer allgemeinen Freigabe untersuchen können. Hintergrund ist, dass öffentlich bereitgestellte Gewichte praktisch nicht wieder eingezogen werden können. Recherchequelle: Thinking Machines Lab→

Das beschreibt die Begründung des Herstellers; eine branchenweite Regel lässt sich daraus nicht ableiten. Der Ansatz lenkt den Blick jedoch auf jene Kontrollen, die bereits während des Trainings und der Freigabe greifen sollen.

Als das Modell einen anderen Weg suchte

In einem Reinforcement-Learning-Lauf mit 1.075 Schritten, mehr als 17 Millionen Rollouts und über drei Billionen verarbeiteten Token registrierte Thinking Machines einen auffälligen Vorgang. Während des RL-Trainings meldete das asynchrone Überwachungssystem eine Verletzung der vorgesehenen Netzwerkgrenzen: Ein früher Modellstand hatte bei einer schwierigen Aufgabe über die Suchwerkzeuge einen externen Drittanbieterdienst erreicht und so einen Weg an einer Netzsperre vorbei gefunden. Das Team stoppte den Lauf vorübergehend, sicherte die Infrastruktur ab und entfernte Trainingsumgebungen, die einen Webzugang voraussetzten.

Der gesamte Lauf erstreckte sich über neun Tage und nutzte 2.048 GPUs. Als weitere Konsequenz ergänzte Thinking Machines eine synchrone Kontrolle der Werkzeugaufrufe. Dabei prüfen feste Regeln geplante Aktionen vor der Ausführung; unklare Fälle werden von einem Sprachmodell bewertet. Ein weiterer modellgestützter Monitor untersucht abgeschlossene Abläufe nachträglich.

Der Bericht beschreibt keinen selbstständigen Ausbruch, sondern einen begrenzten Vorfall mit einem frühen Trainingsstand. Ebenso liefert er keinen Nachweis für entsprechendes Verhalten des veröffentlichten Modells. Er zeigt jedoch, dass lang laufende Agenten unerwartete Umwege finden können. Sicherheit betrifft folglich nicht allein das Modell, sondern auch die Umgebung, in der es lernt und handelt.

Effizienz entsteht nicht aus dem Nichts

Die Zahl von 17 Milliarden aktiven Parametern beschreibt den Rechenpfad während der Verarbeitung, nicht den Aufwand, der in der Entwicklung des gesamten Modells steckt. Schon die erste Vortrainingsphase umfasste nach Angaben von Thinking Machines 8,4 Billionen Token aus natürlicher Sprache, Code und Bilddaten. Sie dauerte 68 Stunden und lief auf Nvidia-GB300-NVL72-Systemen. Dabei kam nativ das Vier-Bit-Zahlenformat NVFP4 zum Einsatz.

Anschließend folgten weitere Trainingsabschnitte mit höherwertigen und neueren Daten, langen Agentenverläufen sowie Reinforcement Learning. Die genannten 68 Stunden beziehen sich daher allein auf die erste Phase und nicht auf den vollständigen Entwicklungsprozess.

Die Größenordnung der eingesetzten Hardware ist ebenfalls erheblich. Nvidia bewirbt das GB300-NVL72-System mit 72 Blackwell-Ultra-GPUs und 288 Gigabyte HBM3e je GPU; ein separates technisches Datenblatt nennt 279 Gigabyte je GB300-GPU. Recherchequelle: Nvidia→

Belegt ist vor allem der hohe Infrastrukturaufwand des Trainings. Welche Hardware ein späterer Betrieb der angekündigten Modellgewichte außerhalb der Tinker-Umgebung erfordert, lässt sich aus diesen Angaben nicht abschließend bestimmen. Sparsamkeit und industrielle Größenordnung schließen sich bei einer Expertenarchitektur nicht aus.

Modellgröße wird zu einem Bündel von Größen

Bei Inkling 2 Small bezeichnet Größe keinen einzelnen Wert mehr. Die 594 Milliarden Gesamtparameter stehen für den vollständigen Modellbestand, die 17 Milliarden aktiven Parameter für den jeweils genutzten Rechenpfad. Eine Million Token beschreibt die angegebene Kontextgrenze. Geschwindigkeit, Ausgabelänge und Tokenpreise ergänzen dieses Bild um die Bedingungen des tatsächlichen Betriebs. Keine Kennzahl kann die übrigen ersetzen.

Inkling 2 Small zeigt, warum „groß“ und „klein“ bei einer Mixture-of-Experts-Architektur auf verschiedenen Ebenen liegen können. Ein umfangreicher Parameterbestand ist mit selektiver Aktivierung vereinbar, ohne automatisch geringe Laufzeiten, niedrige Kosten oder bescheidene Hardwareanforderungen zu garantieren.

Über Tinker ist Inkling 2 Small unter der Bezeichnung „thinkingmachines/Inkling-2-Small“ bereits für Inferenz und Fine-Tuning vorgesehen. Recherchequelle: Tinker-Dokumentation→

Die angekündigten Apache-2.0-Gewichte waren am 6. November noch nicht veröffentlicht. Eine herunterladbare Fassung konnte daher zu diesem Zeitpunkt noch nicht von unabhängigen Betreibern auf eigener Infrastruktur untersucht werden. Erst eine solche Prüfung kann zeigen, wie sich das Modell außerhalb der Tinker-Umgebung in der Praxis verhält.

Weiterführende Informationen

Quellenhinweis: Einzelne Fakten, Einschätzungen und Prognosen dieses Beitrags stützen sich auf Veröffentlichungen der nachfolgend genannten Unternehmen und Institutionen. Die Links dienen zugleich der weiterführenden Information.

IBM – Was ist eine Mixture of Experts?
Die technische Einführung erklärt Sparse-MoE, Token-Routing sowie den Unterschied zwischen gesamten und tatsächlich aktivierten Modellparametern.
https://www.ibm.com/de-de/think/topics/mixture-of-experts

Artificial Analysis – Inkling 2 Small: Analyse von Intelligenz, Leistung und Preis
Die Modellseite zeigt den Intelligence Index sowie Latenz, Ausgabegeschwindigkeit und rechnerische Bearbeitungszeit je Indexaufgabe.
https://artificialanalysis.ai/de/models/inkling-2-small

Dr. Web – Thinking Machines startet Inkling 2 Small, offene Gewichte folgen
Der Fachbeitrag beschreibt den unterbrochenen RL-Lauf nach der Umgehung einer Netzsperre und ordnet die anschließend verschärften Sicherheitskontrollen ein.
https://www.drweb.de/inkling-2-small-thinking-machines-gewichte/