本文报道 Kimi K3 正式开源,成为全球首个 3 万亿参数级开源模型,详解其 MoE 架构创新、百万上下文、原生多模态及 Agent 沙盒训练,并展示接近最强闭源模型的性能与成本优势。
📝 详细摘要
文章报道月之暗面(Moonshot AI)开源 Kimi K3 模型及技术报告。K3 总参数 2.88 万亿(激活 1040 亿),采用混合注意力(KDA + Gated MLA)、注意力残差与 Stable LatentMoE 架构,扩展效率较 K2 提升 2.5 倍。原生支持 100 万 token 上下文与多模态,通过 AgentENV 沙盒进行超长步骤强化学习训练,并经历知识图谱引导的任务合成与多教师蒸馏。在多项基准上全面超越 Claude Opus 4.8、GLM-5.2 等,逼近 Fable 5 和 GPT-5.6 Sol。实际测试中,K3 能发现 Linux 零日漏洞、优化 GPU 编译器、自主设计芯片、复现天体物理分析。推理成本仅对标闭源模型的一半甚至更低。文章还提及硅谷对开源的支持立场,强调 K3 开源的意义。
💡 主要观点
- Kimi K3 是全球首个开源 2.8 万亿参数 MoE 模型。 总参数 2.88T,激活 1040 亿,配备 896 个专家、激活 16 个,原生支持 100 万 token 上下文和视觉-文本联合训练。
💬 文章金句
- 里程碑式的工作。
- 前沿智能属于所有人。
- 在整体表现上,Kimi K3 仍略微落后于最强大的闭源模型,但它已经稳稳确立了开源领域的全新边界。
📊 文章信息
AI 初评:83
来源:36氪
作者:36氪
分类:人工智能
语言:中文
阅读时间:18 分钟
字数:4397
标签: LLM, 模型发布, 多模态AI, 模型训练与推理, AI Agent