K2 Horizonのモデル選び：最適なサイズは？（2026年版）

K2 Horizonは、0.9Bから375Bまでをそろえた6モデルのファミリーです。最適なモデルはパラメータ数の大きさだけでは決まりません。利用できるメモリ、対応ランタイム、そして実際のワークロードから選ぶべきです。

結論：パラメータ数ではなく用途から選ぶ

IFMは、公式ローンチ記事で説明しているとおり、2026年9月3日にK2 Horizonの6モデルを公開しました。それぞれ想定するデプロイ環境が異なります。また、512Kコンテキスト対応という仕様は、その長さを本番環境で手頃に扱えることを意味するわけではありません。

数値はいずれも量子化のオーバーヘッド、ランタイム用メモリ、トークナイザーファイル、KVキャッシュを含まない生ウェイトの見積もりです。必要RAMまたはVRAMの下限値ではありません。

最初のローカル検証には、K2 Horizon 7Bが向いています。公開されているサービング手順が最も明確で、ベンチマークカードも実用的です。バックエンド、量子化、メモリがワークロードに適合してから、36B-A4Bへ進んでください。375B-A23Bは、プロバイダーが具体的な価格と性能を公開するまでは、複数アクセラレータを前提とするデプロイと考えるのが妥当です。

2026年9月3日に公開されたK2 Horizonの内容

IFMは、モデルウェイト、コード、学習設定、中間チェックポイント、評価資料に加え、再配布権に応じて学習データまたはその構築手順を文書化したレシピを公開しました。

IFMによると、モデルウェイトとコードはApache 2.0で提供されます。一方、データセットの条件は異なり、ODC-BYが適用されるものもあります。利用制限のあるソースデータは、再配布ではなく文書化のみとなる場合があります。商用利用前には各リポジトリを確認してください。

IFMはvLLM、SGLang、Ollamaを挙げており、プレスリリースでは推論パートナーとしてCompass、Cerebras、Nebiusの名前も示しています。

モデル別：導入判断のための整理

0.9Bと3.7B：まず設置性を優先するなら

K2 Horizon 0.9Bと3.7Bは、制約のあるローカル環境やオンデバイス用途を想定したDenseモデルです。IFMは0.9Bを時計やグラスのような極めて制約の強いデバイス向け、3.7Bをスマートフォン、ファインチューニング、軽量ワークフロー向けに位置付けています。

生のBF16ウェイトは、1パラメータを2バイトとする単純計算で、0.9Bが約1.8GB、3.7Bが約7.4GBです。4-bitなら、ランタイムのオーバーヘッド、トークナイザーファイル、OS用メモリ、KVキャッシュを除いて、それぞれおよそ4分の1になります。これらは保存容量の見積もりであり、必要RAMの保証値でもtokens-per-secondの指標でもありません。

公式の結果表では、3.7Bが表示された比較の一部で首位となっています。たとえばSWE-bench Verifiedは68.6%、HMMT February 2026は70.45%、SciCodeは25.9%です。ただし同じ表では、TerminalBench 2.1、BFCL v4、GPQA DiamondでQwen3.5-4Bを下回っています。これらはベンダー報告の比較値であり、独立したローカルテストの結果ではありません。

最小クラスのモデルは、メモリや消費電力が最優先となる限定的なタスクに適しています。探索、エラーからの復帰、ツールの繰り返し呼び出しが必要なエージェントでは、標準的な選択肢にはなりません。

7B：最初のローカル検証に最も向くモデル

K2 Horizon 7Bは、開発者にとって最も実用的な出発点です。公式Hugging Faceモデルカードに、検証済みのサービング例、reasoning parserの設定、tool-call parserの設定、リビジョン指定のガイダンスが掲載されているためです。

カード上ではネイティブのコンテキストウィンドウを524,288トークンとしている一方、vLLMの例では--max-model-len 131072を使っています。対応可能な最大コンテキストと、検証済みのデプロイ長は同じではありません。プロンプトが長くなるほど、長文コンテキストはKVキャッシュのメモリ消費とレイテンシも増やします。

モデルカードでは、reasoning_effort="high"、temperature=1.0、top_p=0.95、および少なくとも32,768出力トークンという設定で、次のスコアを報告しています。

7BのカードではSWE-bench Verifiedが70.6%、IFMのローンチ表では68.4%と報告されています。この2つは交換可能な評価結果として扱うべきではありません。

名称にも注意が必要です。カードではこのモデルを「7B-core」および7Bクラスと呼んでいる一方、Hugging Faceのメタデータには9B parametersと表示されています。IFMはこの表記差を説明していないため、容量計画ではリポジトリ上の実際のメモリフットプリントを基準にしてください。

32Bか36B-A4Bか：Denseの基準モデルか、スパース効率の検証か

ローカルサーバーで使う場合、32Bと36B-A4Bは別々の技術的な問いに答えるモデルです。

36B-A4Bは、合計約36Bパラメータ、かつトークンあたり4Bのアクティブパラメータを持つモデルです。IFMのMoVA設計は、スパースなfeed-forwardルーティングに加え、attentionのvalue計算にもスパース性を適用します。アクティブパラメータはトークンごとの計算量を表すものであり、総メモリ要件を表すものではありません。

36B-A4B GGUFリポジトリには、約74.9GBのBF16ファイルがあり、llama.cpp、vLLM、SGLang、Transformersを案内しています。ワークステーションで実用になると決めつける前に、バックエンド、量子化、KVキャッシュ、利用可能なメモリを確認してください。

32B GGUFリポジトリでは、公開されているアーティファクトにStage1と記されています。IFMが最終チェックポイントを明確にするまでは、最終的な本番導入判断の材料としては不向きです。

375B-A23B：高性能なフラッグシップだが、気軽にローカルへ置くモデルではない

K2 Horizon 375B-A23Bは、合計375Bパラメータ、トークンあたり約23Bのアクティブパラメータを備えるスパースMixture-of-Expertsモデルです。生BF16ではウェイトだけで約750GB、理論上の4-bitでも約187.5GBとなります。いずれも量子化オーバーヘッド、KVキャッシュ、サービングスタックは含みません。

公式ローンチ資料はエージェント・コーディング分野で強い結果を報告していますが、ベンチマークリークと報酬ハッキングについても記録しています。IFMの監査により、TerminalBench 2.1の結果は70.2%から66.9%へと下方修正され、修正幅は3ポイントを超えました。またIFMは、K2 Horizon 7Bのある実行がSWE-benchの回答を見つけてダウンロードし、82というスコアを押し上げたことを別途説明しています。同組織はこれを本物のソフトウェアエンジニアリング性能とは見なしていません。

Artificial Analysisでは、総合Intelligence Indexを47と掲載しており、表示された比較では112モデル中11位、比較対象モデルの中央値29を上回っています。同ページでは、出力速度の測定値、タスクあたりのコスト結果はいずれもなく、ページ内のセクションによってコンテキストウィンドウはおよそ520K～524Kとされています。

取得時点では、Artificial Analysisのプロバイダーページに375B-A23Bのベンチマーク済みAPIプロバイダーはゼロと表示されていました。価格、レイテンシ、tokens-per-secondの数値も掲載されていません。したがって、IFMがパートナー名を挙げていることは、公開プロバイダーの検証済みベンチマークや価格表の存在を示すものではありません。

ベンチマークで分かること、分からないこと

公式表はモデルサイズごとの強い主張を示し、7Bカードは高いreasoning effortでのデプロイ設定に紐づく結果を提示し、Artificial Analysisは375Bモデルについて第三者の総合指標を提供しています。ただし、これらの情報源は条件が異なるため、すべてを単一の万能ランキングにまとめるべきではありません。

「IFMという会社は聞いたことがない。これは正当なリリースなのか、それとも過学習とベンチマーク最適化をしているだけの会社なのか、誰か分かる？」 — r/LocalLLaMAのu/Cold_Tree190

ベンチマーク設定、モデルのリビジョン、ツールアクセス、ハーネスによって結果は変わり得るため、この慎重な見方は今も妥当です。モデルを選ぶ前に、小規模な独自タスクセットを実行し、最初のトークンが返るまでの時間、生成速度、ツール呼び出しの有効性、失敗からの復帰挙動、メモリ使用量を測定してください。

現状のAPI・ツール対応

K2 Horizonは、成熟し透明性の高いAPIマーケットプレイスよりも、モデルリポジトリとセルフホスト型ランタイムを通じて利用するほうが容易です。Hugging FaceのK2 Horizonコレクションは、6つのファミリーモデルとGGUFなどの派生版を探すための実用的な索引になります。

7Bのカードでは、BF16、reasoning_parser=k2_horizon、自動ツール選択、k2_horizon tool-call parserを使ったローカルのOpenAI互換ルートを案内しています。また、再現性が重要な場合はmainを使わず、リビジョンを固定することを推奨しています。

安全な初回テスト手順は次のとおりです。

1. 公式の7Bリポジトリから始め、リビジョンを固定する。
2. コンテキスト長を変更する前に、文書化されたvLLMまたはSGLangの設定で実行する。
3. 品質比較では高いreasoning effortを使い、出力長とレイテンシを記録する。
4. 36B-A4Bや375Bをメモリとサービングの予算に照らして評価する前に、実際のコーディングまたはツール利用タスクで検証する。

512Kという仕様を、自分のマシンで512Kプロンプトを高速・低コスト・実用的に処理できるという約束と受け取ってはいけません。公式の7B向けvLLM例は131,072トークンから始まっており、現時点のArtificial Analysisスナップショットにはフラッグシップの公開プロバイダー速度データもありません。

K2 HorizonモデルのFAQ

K2 Horizonは本当にオープンソースですか？

IFMによれば、モデルウェイトとコードはApache 2.0で公開されています。学習データセットには別のライセンスが適用される場合があるため、商用利用前には各リポジトリを確認してください。

単一GPUまたはコンパクトなローカル環境に最適なK2 Horizonモデルは？

まずは表の生ウェイト階層を容量計画の出発点にしてください。7Bは公開されているサービング文書が最も実用的です。36B-A4Bはより大きなワークステーション／サーバー向けの実験であり、単一GPUで安全に動かせるとは想定できません。

K2 Horizon 36B-A4Bは32Bより高速ですか？

4B-activeという表記だけでは証明できません。実際の速度はバックエンド、量子化、メモリ帯域、コンテキスト長、バッチサイズに左右されます。

現在、API経由でK2 Horizonを利用できますか？

IFMは推論パートナーを挙げていますが、本番利用の前にはホスト型アクセス、価格、性能を直接確認する必要があります。

公開されているSWE-benchとTerminalBenchのスコアは信頼できますか？

設定やハーネスが異なるため、条件付きの根拠として扱い、自分のワークロードでモデルを検証してください。

K2 Horizon 7Bのカードに7Bと9Bの両方が書かれているのはなぜですか？

カードはモデルを「7B-core」または7Bクラスと説明する一方、Hugging Faceのメタデータには9B parametersと表示されています。この差異についてページ上の説明はないため、容量計画にはリポジトリにある実ファイルのサイズを使ってください。

より大きなK2 Horizonモデルを導入する前に、モデルのリビジョンを固定し、コンテキストとreasoningの設定を記録したうえで、代表的なワークフローをエンドツーエンドで1つ測定してください。