我们推出了 Kimi K3，这是一个拥有 2.8 万亿参数的开放 AI 模型，具备原生视觉能力和 100 万字符的上下文窗口。该模型旨在处理长远规划的编码、知识工作和推理任务。虽然其整体性能仍落后于顶级的专有模型（如 Claude Fable 5 和 GPT 5.6 Sol），但在各项评测中，Kimi K3 的表现始终优于其他测试模型。该模型现已在多个 Kimi 平台上线，其完整的模型权重计划于 2026 年 7 月 27 日前公开发布。
一个开放的 3T 级别模型
Kimi K3 是首个达到 2.8 万亿参数的开放模型，标志着 Kimi 在模型规模化方面的持续努力。该模型基于 Kimi Delta Attention (KDA) 和 Attention Residuals (AttnRes) 这两项架构更新，旨在改善信息在序列长度和模型深度上的流动。
- 架构创新：通过结合专家混合（MoE）稀疏性、稳定的训练方法和优化的数据配方，这些结构性变化相比 Kimi K2 实现了约 2.5 倍的整体扩展效率提升。
- 专家利用：在与 Stable LatentMoE 框架结合使用时，模型能有效激活 896 个专家中的 16 个。
强大的编码能力
Kimi K3 在需要长远规划的编码任务中表现出色。它能够独立完成长时间的工程任务、浏览大型代码库并协调终端工具。此外，它还擅长结合软件工程与视觉推理，利用截图和视觉信息来优化游戏开发、前端和 CAD 设计。
在 Kimi K3 开发的后期阶段，一个早期版本的 Kimi K3 就已经处理了团队大部分的内核优化工作。
内核优化测试
在一项 GPU 内核优化测试中，Kimi K3 与 Fable 5 表现相当，并显著优于 Opus 4.8、GPT 5.6 Sol 和 GPT 5.5。
- AttnRes 内核优化：Kimi K3 设计了一种新的两阶段内核算法，将前向和后向计算时间从 283.6 毫秒减少到 114.4 毫秒。
- DSA 内核优化：Kimi K3 将端到端时间缩短了 55.1%，仅次于 Fable 5 的 57.3%。
- MLA-512 内核优化：在没有基线的情况下，Kimi K3 从零开始编写的内核在 H200 上达到了 517.8 TFLOPS 的吞吐量，超过了次优模型的 492.7 TFLOPS。
- KDA 内核优化 (GPGPU)：在通用 GPU 上，Kimi K3 将前向和后向计算时间减少了 73.6%。
GPU 编译器开发
我们进一步测试了 Kimi K3 是否能从零开始构建一个 GPU 编程系统。
- 成果：Kimi K3 开发了 MiniTriton，这是一个类似 Triton 的紧凑型编译器。在基准测试中，其性能与 Triton 和 torch.compile 相当，甚至在某些工作负载上超越了 Triton。
- 意义：这表明 Kimi K3 能够构建一个连贯的端到端编译器，而不仅仅是孤立的内核。
游戏开发与数字创作
Kimi K3 结合了强大的 3D 推理、编码和视觉能力，能够将概念、图像和视频转化为可玩的互动体验。
- 案例：3D 开放世界：Kimi K3 使用 Three.js WebGPU 和 GPU 计算构建了一个完全程序化的 3D 浏览器探索游戏，生成了包含森林、村庄、雪山和动态天气的广阔世界。
一个由模型构建、为模型服务的芯片，反映了 K3 的长远规划智能体能力。
芯片设计
在一个为期 48 小时的自主运行中，Kimi K3 使用开源工具设计、优化并验证了一款芯片。该芯片在 4 平方毫米的面积内，以 100 MHz 的频率稳定运行，模拟解码吞吐量超过 8,700 tokens/s。
科研编码
Kimi K3 能够将科学文献与可执行代码联系起来，自主实现、验证和分析复杂的计算研究工作流程。在一个案例中，它仅用约 2 小时就完成了通常需要经验丰富的研究员一到两周才能完成的工作。
知识工作与交互式可视化
Kimi K3 推动了端到端的知识工作，尤其擅长处理需要与数据和工具深度交互的复杂任务。
- AI ASIC 行业研究：Kimi K3 通过 120 多轮的递归自我改进，创建了一个关于 ASIC 行业 42 年历史的交互式研究网站。它通过 2.8k+ 次网络搜索和 1.1k+ 次终端数据拉取，处理了跨越 11k+ 页面的数据。
- 引力波分析：通过 20 多个并发子智能体，Kimi K3 分析了 391 个引力波事件，生成了 7 个科学可视化图表、2 个表格和一份文献综述。
新功能：小组件与仪表盘
在 Kimi Work 中，我们引入了小组件（Widgets）和仪表盘（Dashboard），使与 Kimi K3 的互动更具视觉化和持久性。
- 小组件：允许您在聊天中直接生成交互式组件。
- 仪表盘：将您最关心的小组件汇集到一个持久、个性化的视图中。
视频编辑能力
Kimi K3 的原生多模态架构使其擅长动态设计、动画和视频编辑，因为它能在同一个模型内理解文本、图像和视频。
- 案例 1：K3 制作了一个 3Blue1Brown 风格的动态图形解说视频，用动画来解释其自身的架构。
- 案例 2：K3 从 56 个源剪辑中编辑了自己的预告视频，处理了剪辑选择、运动匹配剪辑、帧精确的节拍同步和音频处理。
架构与基础设施
Kimi K3 的核心架构是 Kimi Delta Attention (KDA) 和 Attention Residuals (AttnRes)，并使用了 Stable LatentMoE，有效激活 896 个专家中的 16 个。为了在规模化训练中保持稳定和高效，引入了多项技术改进。
- 训练方法：从 SFT 阶段开始应用量化感知训练，使用 MXFP4 权重和 MXFP8 激活。
- 推理效率：为解决 KDA 带来的缓存挑战，我们向 vLLM 社区贡献了相应的实现，使其在具有竞争力的代币价格下提供服务。
可用性与定价
Kimi K3 现已通过多种渠道提供：
- Kimi 智能体：通过手机应用商店（iOS, Android, HarmonyOS）或访问 kimi.com。
- Kimi Work：下载最新的桌面应用（Windows 和 Apple silicon Macs）。
- Kimi Code：在终端中运行，并使用
/model命令选择 Kimi K3。 - Kimi API：在 Kimi API 平台上选择
kimi-k3。定价为：- 缓存命中输入：$0.30/百万字符
- 缓存未命中输入：$3.00/百万字符
- 输出：$15.00/百万字符
- Kimi 企业版：提供企业级数据隐私和成员管理。
完整基准测试表
| 基准测试 | Kimi K3 (max) | Claude Fable 5 (max, with fallback) | GPT 5.6 Sol (max) | Claude Opus 4.8 (max) | GPT 5.5 (xhigh) | GLM-5.2 (max) |
|---|---|---|---|---|---|---|
| 编码 | ||||||
| DeepSWE | 67.5 | 70.0 | 73.0 | 59.0 | 67.0 | 46.2 |
| Program Bench | 77.8 | 76.8 | 77.6 | 71.9 | 70.8 | 63.7 |
| Terminal Bench 2.1 | 88.3 | 84.6 | 88.8 | 84.6 | 83.4 | 82.7 |
| FrontierSWE | 81.2 | 86.6 | 71.3 | 66.7 | 64.9 | 67.3 |
| SWE Marathon | 42.0 | 35.0 | 39.0 | 40.0 | 14.0 | 13.0 |
| 智能体 | ||||||
| GDPval-AA v2 (Elo) | 1668.0 | 1760.0 | 1748.0 | 1600.0 | 1494.0 | 1514.0 |
| BrowseComp | 91.2 | 88.0 | 90.4 | 84.3 | 84.4 | — |
| DeepSearchQA (f1) | 95.0 | 94.2 | — | 93.1 | — | — |
| 推理与知识 | ||||||
| GPQA-Diamond | 93.5 | 92.6 | 94.1 | 91.0 | 93.5 | 91.2 |
| HLE-Full w/ tools | 56.0 | 63.0 | 58.0 | 57.9* | 52.2* | — |
| 视觉 | ||||||
| MMMU-Pro | 81.6 | 81.2 | 83.0 | 78.9 | 81.2 | — |
| MathVision w/ python | 97.8 | 98.6 | 97.8 | 97.1 | 96.8 | — |
注：所有 Kimi K3 的结果均在“最大”推理努力下获得。不同模型的评估可能使用不同的智能体测试框架（如 KimiCode、Claude Code 或 Codex），具体细节请参考原始报告。
局限性
- 对思考历史的敏感性：K3 在“保留思考历史”模式下训练。如果测试框架未能传回所有历史思考内容，或会话中途切换到 K3，生成质量可能会变得极不稳定。
- 过度主动：K3 在训练中特别强调长远规划和挑战性任务。因此，当遇到小问题或用户意图模糊时，它可能会做出超出预期的决策。如果应用要求智能体在明确边界内操作，建议在系统提示中施加更明确的行为约束。
- 用户体验差距：尽管 K3 是一个整体竞争力很强的模型，但在用户体验方面与 Claude Fable 5 和 GPT 5.6 Sol 相比仍存在明显差距。