Thinking Machines Inkling: 975B、オープンで、動かすのが難しい

最終更新日: 2026-07-16 10:38:55

Thinking Machines Inklingは、2026年7月15日に公開された9750億パラメータのオープンウェイトモデルで、トークンごとに41Bパラメータのみを有効化し、テキスト、画像、音声を入力として受け取る疎なMixture-of-Expertsとして構築されています。Apache-2.0の下で提供されているため、フルウェイトをダウンロードして商用利用でファインチューニングできます。難点は、4ビット量子化でもおよそ600GBのVRAMが必要なことです。そのため、これはゲーム用GPUで動かすものではなく、クラスター上で評価するモデルです。

仕様と、見出しが誤解した点

以下は、Hugging Face の model card公式 Inkling ページ に記載されている内容です(2026年7月16日時点で参照)。

仕様Inkling
総パラメータ数975B
アクティブパラメータ数41B per token
アーキテクチャ66層のデコーダー専用、疎なMoE(256 experts、6 routed + 2 shared)
モダリティText, image, audio in; text out (UTF-8)
訓練データ45兆 tokens
ライセンスApache-2.0
ダウンロードHugging Face (thinkingmachines/inkling)

ローンチ報道に関して浮上している3つの点を訂正する必要があります:

  • コンテキストウィンドウ。 いくつかの解説では1Mトークンのウィンドウが引用されていました。公式のInklingページでは標準は64K、Tinkerプラットフォーム経由で実行した場合は256Kと記載されていますが、Hugging Faceのカードには数値の記載がまったくありません。確認できる数値としては64K/256Kを、1Mは未確認として扱ってください。
  • ライセンス。 これはApache-2.0であることが確認されており、利用可能なライセンスの中でも最も制限が少ない部類の一つで、商用利用も認められています。Thinking Machinesは、ファインチューニングの安全性に関する責任を利用者側に負わせています。
  • "Inkling-Small." 約12Bのアクティブパラメータを持つ小型版が一部の報告に登場しましたが、Hugging Faceのモデルカードには掲載されていません。そこに掲載されるまでは、前提にしないでください。

ここでの「975B parameters」が実際に意味するもの

Inklingは各トークンを256人のエキスパートのうち6人と2人の共有エキスパートに振り分けるため、全体のパラメータ数は975Bでも、実際に一度に動作するのは約41Bパラメータにすぎません。そのため、Thinking Machinesは、そこに到達するまでに使うトークン数を約3分の1少なくしながら、コーディングにおいてNvidiaのNemotron 3 Ultraに匹敵すると主張しています。つまり、大規模モデルの広さを、中規模モデルの推論コストで得られるということです。

Inkling には「thinking effort」ダイヤルも用意されています。難しい問題ではこれを上げて、より遅く、より慎重な回答を受け入れるか、速度を優先して下げることもできます。推測するよりも不確実性を示すように訓練されており、これは一般向けチャットボットよりも fine-tuning のベースとしては重要です。

Inklingを実際に実行できますか?

ここで「open weights」というラベルは複雑になります。というのも、open は軽いという意味ではないからです。以下は、モデルカードと初期のコミュニティ推定に基づいて、フルの 975B モデルを提供するのにおおよそ何が必要かを示したものです(これらは概算であり、保証ではありません)。

Approximate VRAM required to run Inkling at different quantization levels
  • BF16 (full precision): 重みだけで約2TBのVRAMが必要なので、16台以上のH200クラスGPU、または8GPUのB300ノードが必要です。さらにサービングのオーバーヘッドは別です。
  • NVFP4 / 4-bit: 約600GBで、依然としてマルチGPUサーバー領域です(おおよそ4× H200または8× 80GBカード)。
  • 1-2 bit GGUF (llama.cpp / Unsloth quants): RAM+VRAM合計で約280-350GBで、高性能ワークステーションや最大構成のMac Studio Ultraなら到達可能です。ただし、KVキャッシュが増えるため、長いコンテキストに向かうほど遅くなります。

率直に言うと、十分な資金を持つチームなら Inkling を評価したり fine-tune したりできますが、現時点では consumer-GPU でローカル実行する方法はありません。1枚の24GBカードで読み込ませたい個人開発者なら、これはあなた向けのモデルではありません。Hugging Face の thinkingmachines/inkling からダウンロードするか、Thinking Machines の Tinker プラットフォームを通じて fine-tune できます。Tinker では 256K context も利用可能になります。

Inklingが他のモデルと比べてどの位置にあるか

Thinking Machinesは、Inklingが利用可能な最強のモデルではないと率直に述べており、model cardのベンチマークもそれを裏付けています。Inklingは高いスコアを示していますが、推論とコーディングではクローズドな最先端モデルに及びません。

Inkling benchmark scores compared with the best rival on each test
ベンチマークInkling引用された最良の競合
AIME 202697.1%GPT 5.6 Sol, 99.9%
SWE-bench Verified77.6%Claude Fable 5, 95.0%
MMMU Pro73.3%Claude Fable 5, 84.2%
VoiceBench91.4%Gemini 3.1 Pro, 94.3%

*出典: Inkling のモデルカードおよび公式ベンチマークページ、2026年7月16日アクセス。*

公式のレーダーチャートも同じことを視覚的に示しています。Inkling は reasoning と multimodal tasks では健闘していますが、agentic coding(SWE-bench Pro、Terminal Bench)では GPT 5.6 Sol と Claude Fable 5 の内側に位置しています。

Official Inkling benchmark radar comparing it with GPT 5.6 Sol and Claude Fable 5

強みは幅広さです。1つのオープンモデルでネイティブな音声と画像の理解を備えており、fine-tuning によってコード生成の差を埋められます。すぐ使える最上位クラスの agentic coding が必要なら、依然としてクローズドな frontier model が勝ります。自分で所有できるオープンなマルチモーダル基盤が必要なら、Inkling のほうがより興味深い選択肢です。

Inklingが本当に向いている人

Inklingは、完成されたアシスタントではなく、これから構築するための基盤です。Thinking Machinesは、従量課金のAPI呼び出しではなく、ファインチューニング・プラットフォームであるTinkerから収益を得ているため、モデル自体は無料で、売り文句は「これを使って、用途に合わせて特化させてください」です。

最も明確な証拠はBridgewater Associatesです。Thinking Machinesによると、このモデルの金融向け調整版は、同社の推論テストで84.7%を記録し、しかも専有モデルのおよそ14分の1のコストで済みました。これが想定された用途であり、チームが特定のドメイン向けに作り替える、十分に能力のある汎用モデルです。

したがって、オープンモデルを特化させてその成果を自社で所有するためのインフラとfine-tuningの専門知識があり、安全性の調整について責任を引き受けられるなら、これは適しています。すぐに使えるチャットボットが欲しい場合や、コンシューマー向けハードウェアで作業している場合は、やめておいたほうがよいでしょう。というのも、汎用のクローズドモデルのほうが到達コストが低く、初日から性能が強いからです。知っておく価値のある注意点が1つあります。Inklingのpost-trainingでは、MoonshotのKimi K2.5を含む他のオープンモデルによって生成されたデータが使われており、Thinking Machinesによれば次世代は完全にself-trainedになる予定です。

Inkling FAQ

Inkling は商用利用は無料ですか?

はい。Apache-2.0 の下で公開されており、商用利用と改変が許可されています。デプロイする前に、必要な安全性のファインチューニングはご自身の責任で行ってください。

Inkling はどこでダウンロードできますか?

完全な重みは Hugging Face の thinkingmachines/inkling にあります。コミュニティによる量子化された GGUF ビルドもそこにあります。

Inklingには本当に100万トークンのコンテキストウィンドウがありますか?

公式ページでは、デフォルトで64K、Tinkerプラットフォーム経由で256Kと記載されています。一部の報道で言及されている1Mという数値はモデルカードでは確認できないため、64K/256Kを前提に計画してください。

Inkling vs DeepSeek または Qwen、どちらが優れていますか?

それは単一のスコアではなく、用途によって異なります。Inklingの強みは、1つのApache-2.0モデルでのネイティブなマルチモーダル入力(テキスト、画像、音声)に加え、Tinkerによるファインチューニングの流れにあります。一方、中国の主要なオープンモデルは、依然として汎用用途やコーディング用途で有力です。採用を決める前に、あなた自身のタスクでベンチマークしてください。

Tinkerとは何ですか? また、必要ですか?

TinkerはThinking Machinesのホスト型ファインチューニングプラットフォームです。open weightsを動かすのに必要ではありませんが、Inklingをカスタマイズするための公式の方法であり、context windowを256Kに拡張します。

---

関連記事