Thinking Machines Inkling: 975B, offen und schwer auszuführen

Zuletzt aktualisiert: 2026-07-16 10:37:58

Thinking Machines Inkling ist ein Open-Weight-Modell mit 975 Milliarden Parametern, das am 15. Juli 2026 veröffentlicht wurde und als sparsames Mixture-of-Experts-Modell aufgebaut ist, das pro Token nur 41 Milliarden Parameter aktiviert und Text-, Bild- und Audioeingaben verarbeitet. Es wird unter Apache-2.0 ausgeliefert, sodass Sie die vollständigen Gewichte herunterladen und kommerziell feinabstimmen können. Der Haken: Selbst eine 4-Bit-Quantisierung benötigt ungefähr 600 GB VRAM, also ist dies ein Modell, das Teams auf einem Cluster bewerten, nicht etwas, das Sie auf einer Gaming-GPU ausführen.

Die Spezifikationen und was die Schlagzeilen falsch verstanden haben

Hier ist, was die Hugging Face model card und die offizielle Inkling-Seite angeben (abgerufen am 16. Juli 2026).

SpezifikationInkling
Gesamtparameter975B
Aktive Parameter41B pro Token
Architektur66-Schichten-Decoder-only, sparse MoE (256 Experten, 6 geroutet + 2 gemeinsam genutzt)
ModalitätenText, Bild, Audio rein; Text raus (UTF-8)
Trainingsdaten45 Billionen Token
LizenzApache-2.0
DownloadHugging Face (thinkingmachines/inkling)

Drei Dinge, die in der Berichterstattung zur Markteinführung kursieren, müssen korrigiert werden:

  • Kontextfenster. Mehrere Beiträge erwähnten ein Fenster mit 1 Mio. Token. Die offizielle Inkling-Seite nennt standardmäßig 64K und 256K bei Ausführung über die Tinker-Plattform; die Hugging-Face-Card nennt überhaupt keine Zahl. Betrachten Sie 64K/256K als die Werte, die Sie verifizieren können, und 1 Mio. als unbestätigt.
  • Lizenz. Es ist bestätigt Apache-2.0, eine der freizügigsten verfügbaren Lizenzen, und sie erlaubt die kommerzielle Nutzung. Thinking Machines überträgt Ihnen allerdings die Verantwortung für die Sicherheit beim Fine-Tuning.
  • "Inkling-Small." Eine kleinere Variante mit etwa 12B aktiven Parametern tauchte in einigen Berichten auf, ist aber nicht auf der Hugging-Face-Model-Card aufgeführt. Solange sie dort nicht erscheint, sollten Sie nicht damit planen.

Was "975B parameters" hier wirklich bedeutet

Inkling leitet jedes Token an 6 von 256 Experten plus 2 gemeinsam genutzte Experten weiter, sodass jeweils nur etwa 41B Parameter aktiv werden, obwohl der gesamte Pool 975B umfasst. Deshalb behauptet Thinking Machines, dass es Nvidia's Nemotron 3 Ultra beim Programmieren erreicht, während es dafür ungefähr ein Drittel weniger Tokens verbraucht: Man erhält die Breite eines großen Modells zu den Inferenzkosten eines mittelgroßen Modells.

Inkling bietet auch einen Regler für den „Thinking Effort“. Drehen Sie ihn für schwierigere Probleme hoch und akzeptieren Sie langsamere, bedächtigere Antworten, oder drehen Sie ihn für mehr Geschwindigkeit herunter. Es ist darauf trainiert, Unsicherheit eher zu kennzeichnen als zu raten, was für eine Fine-Tuning-Basis wichtiger ist als für einen Verbraucher-Chatbot.

Können Sie Inkling tatsächlich ausführen?

Hier wird das Label „open weights“ kompliziert, denn offen bedeutet nicht leichtgewichtig. Hier ist ungefähr, was nötig ist, um das vollständige 975B-Modell bereitzustellen, basierend auf der Model Card und frühen Schätzungen aus der Community (das sind Richtwerte, keine Garantien):

Approximate VRAM required to run Inkling at different quantization levels
  • BF16 (Full Precision): ~2TB VRAM nur für die Gewichte, also 16+ H200-Klasse-GPUs oder ein 8-GPU-B300-Knoten, bevor Sie den Serving-Overhead hinzufügen.
  • NVFP4 / 4-bit: ~600GB, immer noch im Bereich von Multi-GPU-Servern (ungefähr 4× H200 oder 8× 80GB-Karten).
  • 1-2 bit GGUF (llama.cpp / Unsloth quants): ~280-350GB kombinierter RAM+VRAM, erreichbar auf einer High-End-Workstation oder einem voll ausgestatteten Mac Studio Ultra, und langsamer, sobald Sie in Richtung langen Kontext gehen, weil der KV-Cache wächst.

Die ehrliche Einschätzung: Ein gut finanziertes Team kann Inkling evaluieren und feinabstimmen, aber es gibt derzeit keinen Consumer-GPU-Pfad, um es lokal auszuführen. Wenn Sie ein Solo-Entwickler sind und hoffen, es auf einer einzelnen 24GB-Karte zu laden, ist das nicht Ihr Modell. Sie laden es von Hugging Face unter thinkingmachines/inkling herunter oder feinabstimmen es über die Tinker-Plattform von Thinking Machines, die auch den 256K-Kontext freischaltet.

Wo Inkling im Vergleich zu anderen Modellen einzuordnen ist

Thinking Machines sagt offen, dass Inkling nicht das stärkste verfügbare Modell ist, und die Benchmarks der Modellkarte bestätigen das: Inkling schneidet gut ab, liegt aber bei Reasoning und Coding hinter der geschlossenen Frontier zurück.

Inkling benchmark scores compared with the best rival on each test
BenchmarkInklingBester zitierter Rivale
AIME 202697.1%GPT 5.6 Sol, 99.9%
SWE-bench Verified77.6%Claude Fable 5, 95.0%
MMMU Pro73.3%Claude Fable 5, 84.2%
VoiceBench91.4%Gemini 3.1 Pro, 94.3%

*Quelle: Inkling model card und offizielle Benchmark-Seite, abgerufen am 16. Juli 2026.*

Das offizielle Radar-Diagramm erzählt dieselbe Geschichte visuell. Inkling behauptet sich bei Reasoning- und multimodalen Aufgaben, liegt aber bei agentischem Coding (SWE-bench Pro, Terminal Bench) hinter GPT 5.6 Sol und Claude Fable 5.

Official Inkling benchmark radar comparing it with GPT 5.6 Sol and Claude Fable 5

Wo es stark ist, ist die Breite: native Audio- und Bildverständnis in einem offenen Modell, mit einer Coding-Lücke, die Sie durch Fine-Tuning verkleinern können. Wenn Sie agentisches Coding der Spitzenklasse direkt ab Werk benötigen, gewinnt immer noch ein geschlossenes Frontier-Modell. Wenn Sie eine offene, multimodale Basis benötigen, die Ihnen gehört, ist Inkling die interessantere Option.

Für wen Inkling wirklich gedacht ist

Inkling ist eine Grundlage zum Aufbauen, kein fertiger Assistent. Thinking Machines verdient Geld mit Tinker, seiner Fine-Tuning-Plattform, nicht mit abgerechneten API-Aufrufen, daher ist das Modell selbst kostenlos und das Versprechen lautet: „Nimm das und spezialisiere es.“

Der klarste Beleg ist Bridgewater Associates: Laut Thinking Machines erzielte eine auf Finanzen abgestimmte Version des Modells bei dem Reasoning-Test des Unternehmens 84,7 % zu etwa einem Vierzehntel der Kosten eines proprietären Modells. Das ist der beabsichtigte Einsatz: ein leistungsfähiger Generalist, den ein Team für einen bestimmten Bereich anpasst.

Es ist also passend, wenn Sie über die Infrastruktur und das Fine-Tuning-Know-how verfügen, um ein offenes Modell zu spezialisieren und das Ergebnis zu besitzen, und wenn Sie die Verantwortung für das Safety-Tuning übernehmen können. Verzichten Sie darauf, wenn Sie einen sofort einsatzbereiten Chatbot möchten oder mit Consumer-Hardware arbeiten, denn die geschlossenen Modelle für allgemeine Zwecke sind kostengünstiger zu erreichen und vom ersten Tag an stärker. Ein erwähnenswerter Vorbehalt: Inklings Post-Training verwendete Daten, die von anderen offenen Modellen generiert wurden, darunter Moonshot's Kimi K2.5, und Thinking Machines sagt, dass die nächste Generation vollständig selbst trainiert sein wird.

Inkling-FAQ

Ist Inkling für die kommerzielle Nutzung kostenlos?

Ja. Es wird unter Apache-2.0 veröffentlicht, was die kommerzielle Nutzung und Modifikation erlaubt. Sie sind für jedes Safety-Fine-Tuning verantwortlich, bevor Sie es bereitstellen.

Wo kann ich Inkling herunterladen?

Die vollständigen Gewichte befinden sich auf Hugging Face unter thinkingmachines/inkling. Quantisierte GGUF-Builds aus der Community erscheinen dort ebenfalls.

Hat Inkling wirklich ein Kontextfenster mit 1 Mio. Tokens?

Die offizielle Seite nennt standardmäßig 64K und 256K über die Tinker-Plattform. Die 1M-Zahl in einigen Berichten ist auf der Model Card nicht bestätigt, also planen Sie mit 64K/256K.

Inkling vs DeepSeek oder Qwen, was ist besser?

Das hängt von der Aufgabe ab, nicht von einer einzelnen Punktzahl. Inkling hat einen Vorteil durch native multimodale Eingaben (Text, Bild, Audio) in einem Apache-2.0-Modell plus den Tinker-Fine-Tuning-Pfad; die führenden chinesischen Open-Modelle bleiben starke Allround- und Coding-Optionen. Benchmarken Sie sie auf Ihrer eigenen Aufgabe, bevor Sie sich festlegen.

Was ist Tinker, und brauche ich es?

Tinker ist die gehostete Fine-Tuning-Plattform von Thinking Machines. Sie benötigen sie nicht, um die Open Weights auszuführen, aber sie ist der offizielle Weg, Inkling anzupassen, und sie erweitert das Kontextfenster auf 256K.

---

Weiterführende Lektüre