Mistral Large 4のオープンウェイト：ダウンロード、必要なハードウェア、1ビット実行

Mistral Large 4のフルチェックポイントは約1,060GB、実用になる最小量子化版でも233GBあります。ウェイトは2026年10月29日にHugging Faceで公開され、アクセス制限はありません。公式のFP8版とNVFP4版に加え、コミュニティ製のGGUFも利用できます。ローカルで動かすなら、512GBのユニファイドメモリを備えたワークステーションか、マルチGPUサーバーを前提に考えたほうがよいでしょう。

この記事はMistral Large 4 APIのプレビューとレビューのダウンロード編です。2026年10月29日に変わった点に絞り、ファイルの入手先、ハードウェアとの相性、実行コマンド、ライセンス上の制限をまとめます。

まずは用途に合ったMistral Large 4を選ぶ

公式リポジトリはmistralai/Mistral-Large-4-1T-A52Bです。68ファイル、54個のsafetensorsシャードで構成され、合計サイズは1,060.6GB。gated: falseで、利用に申請は必要ありません。NVFP4版はmistralai/Mistral-Large-4-1T-A52B-NVFP4で、32シャード、合計610.1GBです。以下のサイズとシャード数は、各Hugging FaceリポジトリのページとHugging Faceの発表記事に基づいています。

pip install -U "huggingface_hub[cli]"
hf download mistralai/Mistral-Large-4-1T-A52B --local-dir ./ml4-fp8
hf download mistralai/Mistral-Large-4-1T-A52B-NVFP4 --local-dir ./ml4-nvfp4
hf download unsloth/Mistral-Large-4-1T-A52B-GGUF --include "UD-IQ1_S*" --local-dir ./ml4-gguf

シャードの内訳は、約20GBのものが52個、残り2個が小さい構成です。詳しくはOrcaRouterのファイル一覧を参照してください。途中で小さなシャードのダウンロードが止まっても、同じコマンドを再実行すれば続きから再開できます。

アクティブなのは52Bでも、数百GB必要な理由

MistralとHugging Faceのアーキテクチャ解説によると、Mistral Large 4は1.05兆パラメーターで、計算レイヤーでトークンごとにアクティブになるのは490億パラメーター（埋め込みを含めると520億）です。デコーダーは、各層に128エキスパートを持つ71個のMoEレイヤーで構成され、1トークンあたり4つのルーティング済みエキスパートと1つの共有エキスパートを使います。

スパース性によって減るのは計算量であり、保存に必要な容量ではありません。1トークンあたり5つしか動かなくても、すべてのエキスパートをメモリに載せる必要があります。必要容量は「52B × 1パラメーターあたりのバイト数」ではなく、モデル全体のサイズにランタイムの余裕とKVキャッシュを加えて見積もってください。config.jsonにある100万トークンのコンテキスト長は上限値です。Hugging Faceのエンドポイント構成例で実際に示されているのは、16並列シーケンスで131Kトークンです。

Mistral Large 4を動かすハードウェア構成

24GBや48GBのGPUを1基だけ用意しても、このモデルは載りません。最小の1ビットファイルだけで約233GBあります。以下はHugging Faceのデプロイガイドにある発表時の測定値で、私たちが独自にベンチマークした結果ではありません。

DGX Spark（128GB）や256GB未満のMacでは、実用目的で1ビット版すら読み込めません。233GBというファイルサイズから、256GBが最低ラインです。この構成クラスはUnslothも案内していますが、KVキャッシュやOSの使用分まで考えると、512GBクラスのマシンを用意するのが現実的です。ユニファイドメモリ445GBのユーザーも、IQ2_XXSでさえ厳しいと報告しています。

「小さな445GBユニファイドRAMにLe Chonk（Mistral Large 4）を押し込もうとしているけど、IQ2_XXSでもかなり厳しい……SPARKSが必要だ！」— Xの@Nateemerson

表から実用上の目安をまとめると、1ビット版は233～260GBなので512GBクラスのマシンが現実的、2ビット版は約302GBから、4ビット版は約500GBからNVFP4の610GBまで必要です。長いコンテキストを使うなら、ここに追加のキャッシュ容量も見込んでください。

Mac StudioでUnslothの1ビット版を動かす

Unslothのunsloth/Mistral-Large-4-1T-A52B-GGUFには、UD-IQ1_S（約233GB）とUD-IQ1_M（約260GB）があります。Unslothは、サイズを約80%削減しながらトップ1精度の約91%を維持できると主張しています。ただし、これはモデルページに掲載されたベンダー側の主張であり、独立した検証結果ではありません。実際に使うプロンプトで確認してください。

「1兆パラメーターのモデルが、私たちの1ビットGGUFによってMac Studioで動き、トップ1精度の91%を維持します。Le Chonkは現時点で最も強力な西側のオープンモデルです」— Xの@UnslothAI

1ビット版にはllama.cppを使います。UnslothのページにあるOllamaの例は、より大きいUD-Q4_K_XLを参照している点に注意してください。

llama serve -m ./ml4-gguf/UD-IQ1_S.gguf --mmproj ./ml4-gguf/mmproj.gguf --ctx-size 8192 --port 8080
llama cli -m ./ml4-gguf/UD-IQ1_S.gguf --mmproj ./ml4-gguf/mmproj.gguf -p "Patch this Rust borrow error:"

画像入力を使う場合は--mmprojを追加します。プロジェクターファイルはUnslothリポジトリに掲載されています。256GBのマシンではコンテキスト長を8K～32K程度に抑え、mistral.rsでIQ1ファイルを使うのは避けてください。GGUFのドキュメントではIQ1/IQ2/IQ3/IQ4が未対応とされているため、mistral.rsではQ2_KまたはQ4_Kを使います。Unslothは投機的デコーディング向けにDSparkのドラフトファイルも案内していますが、まずベースモデルの実行を安定させてから有効にしましょう。

BlackwellやH200ならvLLMを使う

vLLMは公式ドキュメントでも案内されているサーバー構成で、OpenAI互換エンドポイントを利用できます。Hugging FaceのvLLMノートによると、reasoning_effortはlow、medium、highに対応し、デフォルトはhighで無効化はできません。テンソル並列数はGPUの台数に合わせます。H200×8のFP8構成なら8、4 GPUのNVFP4ノードなら4です。

# 4x Blackwell NVFP4 example
vllm serve mistralai/Mistral-Large-4-1T-A52B-NVFP4 --tensor-parallel-size 4 --enable-expert-parallel --max-model-len 131072 --max-num-seqs 16 --max-num-batched-tokens 2048 --gpu-memory-utilization 0.85 --enable-prefix-caching --enforce-eager --port 8000

H200×8のFP8リファレンス構成では、FP8のKVキャッシュdtypeとDSparkのドラフトヘッドを追加します。DellのEnterprise Hubでは、B300×4ノードにNVFP4をデプロイできます。TRLによるLoRAファインチューニングはFP8を対象とし、Hugging Faceのファインチューニングノートにある構成はB300×8、ランク16、alpha 32、学習率1e-4です。

見落とせないライセンス上の制限

ウェイトにはMistral Ecosystem Open-Weight Licenseが適用されます。公式リポジトリのLICENSEとして提供されている、MITライセンスを変更したものです。実行、コピー、改変、学習、配布、サブライセンス、コピーや派生物の販売が認められており、収益上限は記載されていません。制限されるのはModel-as-a-Serviceです。入力、パラメーター、学習データを実質的に制御できる形で、第三者に推論や追加学習へのアクセスを販売する場合は、Mistralとの別途の商用ライセンスが必要になります。一方、社内利用、特定機能にモデルを組み込んだ製品、別ホストへのリレー、Mistralがホストする利用は例外として扱われます。

一般論として、自社ホスティングやアプリへの組み込みは、ライセンスに記載された例外の範囲に入ります。生のAPIアクセスを販売する場合は別途契約が必要になる可能性が高いため、サービスを開始する前に必ずライセンス本文を確認してください。

ダウンロードとAPI、どちらを選ぶべきか

最終的なAPI料金は、Mistralの発表によると入力100万トークンあたり$0.70、出力100万トークンあたり$2.10（キャッシュ利用時は$0.07）です。ディスクを用意する前に、サイバーセキュリティやコーディング性能を試すなら、これが最も手早い方法です。ベンチマークでは、再現とパッチ適用が82%、40件のCybenchタスクで93%と報告されています。数値はHugging Faceのベンチマーク概要によるものです。

データの所在、監査、独自ポリシー、プライベートなファインチューニングを重視するならダウンロードを選びます。一方、運用負担を減らしたいならトークンを借りるほうが簡単です。レンタル費用や運用コストまで含めると、Blackwell GPUを4基用意して電力、ストレージ、サービングを管理するより、APIのほうが有用な1トークンあたりのコストで安くなることがあります。評価だけが目的なら、まずmistral-large-4をAPIで試し、512GBのマシンを用意できてから233GBのGGUFを取得するのがおすすめです。

FAQ

公式ウェイトはどこからダウンロードできますか？

mistralai/Mistral-Large-4-1T-A52B（約1,060GB）とmistralai/Mistral-Large-4-1T-A52B-NVFP4（約610GB）です。どちらもアクセス制限はありません。

24GBのGPUを1基だけ使って実行できますか？

できません。最小のファイルでも約233GBあるため、最低でも256GB以上のユニファイドメモリが必要です。現実的には512GBを推奨します。大容量RAMへのオフロードや、マルチGPUサーバーという選択肢もあります。

Mac StudioではUnslothのどのファイルを使えばよいですか？

メモリに余裕がなければUD-IQ1_S（約233GB）、512GBのマシンで品質を優先するならUD-IQ1_M（約260GB）です。Q2_KとQ4_K_Mには300～500GBが必要です。

1ビット版は画像入力とOllamaに対応していますか？

対応ランタイムで--mmprojを指定すれば画像入力を利用できます。Ollamaの例ではUD-Q4_K_XLを使っているため、1ビット版にはllama.cppを使ってください。

ファインチューニングはできますか？

できます。FP8版でTRL/LoRAを利用します。基準構成はB300×8です。ストレージは1TB以上、加えてトレーニング用のメモリも確保してください。

セルフホスティングで100万トークンのコンテキストを使えますか？

100万トークンは設定上の上限です。実証済みの構成では、H200×8で131K、RTX 6000 Pro×4のNVFP4で32K、IQ2_XXSでは最大800Kまで対応します。ただし、800K構成では速度が大きく低下します。