Kimi K3 开源权重:何时发布以及如何运行

最后更新: 2026-07-17 03:39:40

Kimi K3 是开源权重,但你目前还无法下载。Moonshot 已承诺在 2026 年 7 月 27 日 之前在 Hugging Face 上发布完整权重;在此之前,你只能通过应用和 API 使用 K3。本指南涵盖权重何时上线、将存放在哪里、目前由谁托管 K3,以及自行运行一个 2.8 万亿参数模型所面临的硬件现实。

Kimi K3 是开源的吗?

是的,它作为一个开放权重模型发布,并且以 2.8 万亿参数的规模,被称为迄今发布的最大开放权重模型。“开放权重”意味着 Moonshot 会发布训练后的权重,供你下载、运行和微调,就像它此前对更早的 Kimi 旗舰模型所做的那样。这并不等同于完全开源:你能拿到的是权重,不一定包括训练数据或训练流程。

这项承诺已在员工层面得到确认,而不仅仅停留在营销上。当在 X 上被问及开源 K3 是否会为该领域带来“又一个 DeepSeek 时刻”时,Moonshot 的周新宇(@zxytim)只是简单地回复:“会的。”

X reply from Moonshot's Xinyu Zhou (@zxytim) saying "Will do" to a comment that open-sourcing Kimi K3 would be another DeepSeek moment for the world

今天需要注意的重要一点是时机。截至撰写本文时,权重尚未发布在 Moonshot 的 Hugging Face 组织上,该组织目前仍以 Kimi K2.7 Code 为最高版本。因此,K3 被宣布为 open-weight,但目前只能作为托管模型使用。

Kimi K3 权重什么时候发布?

Moonshot 的技术博客表示,完整权重将于 2026 年 7 月 27 日发布,同时还会发布一份包含架构和训练细节的技术报告。预计这些内容会通过 Moonshot 的 Hugging Face 组织发布,并沿用其在近期 Kimi 发布中使用的 Modified MIT 许可证;最终许可证会随文件一同提供。

在那之前,模型卡、确切的发布格式以及官方的活动参数数量都不会公开,因此在该日期之前的任何“下载 Kimi K3”链接都不是真实的。

今天在哪里运行 Kimi K3

您无需等待权重即可使用 K3,只是目前还不能自行托管它。

今天上线是 Kimi 的自有技术栈:kimi.com 上的应用、Kimi Code,以及 API(模型 ID kimi-k3,地址为 https://api.moonshot.ai/v1),按每百万 token 收费 $3/$15。查看完整定价明细

权重发布后预期:第三方主机应会很快上线。Fireworks 很可能会在首日上线,其 Kimi 合作页面在发布时提供了 K2.5、K2.6 和 K2.7,而 Baseten 则开放了 K3 等候名单,而不是可用的实时端点。请将二者都视为“即将推出”,而不是“现在可用”。多模型聚合器也往往会随后跟进;像 AIReiter 这样的平台已经通过一个 兼容 Anthropic 的 API 路由中国开源模型,例如 DeepSeek V4 和 GLM 5.2。

对于自托管,预计会有常见的本地栈、Ollama、vLLM 和 GGUF 量化,在权重发布后添加 K3 支持,就像他们为 K2 系列所做的那样。

2.8T MoE 的硬件现实

Kimi K3 是一个 Mixture-of-Experts 模型,总参数量达 2.8 万亿(每个 token 激活 896 个专家中的 16 个),Moonshot 建议在至少配备 64 个加速器的 supernodes 上部署它。自托管不是单 GPU 爱好者的玩法。

为了更具体地了解规模,上一代 Kimi K2.7 Code 在 1 万亿参数的情况下,大致需要以下资源(K3 的参数量是其 2.8 倍,因此将需要更多得多的资源):

精度约 VRAM(K2.7 Code,1T)
FP16(全精度)~2,308 GB
INT4~577 GB
激进 2 位(Unsloth dynamic)~325 GB

有两件事减轻了这一点。Moonshot 以原生 INT4 搭配 BF16 attention 发布 MoE 权重,因此 4 位量化接近训练精度,而不是粗糙的事后补救;而 Kimi Delta Attention 在百万 token 上下文中可实现最高 6.3 倍更快的解码,这有助于长时间的 agentic 会话。即便如此,现实中的 K3 自托管意味着需要多 GPU 服务器或在高性能硬件上运行量化构建,而不是一台桌面电脑。

你应该自行托管还是使用托管模型?

对于几乎所有人来说,托管是正确的选择。在 API 上每百万 tokens 收费 $3/$15 的情况下,您需要在很高且持续的用量下,多 GPU 设备(或租用的 supernode)的成本才会相对于托管端点收回成本。自托管在三种情况下才值得:严格的数据驻留或空气隔离要求、在您自己的数据上对 K3 进行微调,或者在自有硬件确实比按 token 定价更具成本优势的规模下运行。

如果这些都不适用,请使用 API 或像 Fireworks 这样的托管服务,并将开源权重视为一种保障,以及以后迁移到内部部署的选项,而不是从第一天起的计划。

常见问题

Kimi K3 是开源的吗?

它是开源权重:Moonshot 将发布可下载的权重,预计采用 Modified MIT license。这与发布训练数据不同,但它确实允许自托管和微调。

Kimi K3 权重何时发布?

根据 Moonshot 的技术博客,到 2026 年 7 月 27 日,其 Hugging Face 组织页面以及一份技术报告将同时发布。在此之前无法下载。

我可以在 Ollama 上运行 Kimi K3 吗?

还没有,因为权重尚未公开。一旦发布,预计 Ollama、vLLM 和 GGUF 构建版本会像支持 K2 系列那样添加支持。

运行 Kimi K3 需要什么硬件?

很多。Moonshot 建议用于服务至少配备 64 个加速器。作为参考,1T K2.7 Code 在 INT4 下大约需要 577 GB 的 VRAM;参数量达到 2.8 万亿的 K3 则需要更多,因此请考虑使用多 GPU 服务器,或在高端硬件上部署量化版本。

我现在可以在哪里使用 Kimi K3?

通过 Kimi app、Kimi Code 和 API(kimi-k3)。一旦权重发布,预计也会支持像 Fireworks 这样的第三方托管。关于该模型是什么以及它的表现,请参阅 Kimi K3 概览