← 回總覽

Kimi K3 正式开源,3 万亿模型权重全球开放

📅 2026-07-28 21:30 36氪 人工智能 2 分鐘 1439 字 評分: 83
LLM 模型发布 多模态AI 模型训练与推理 AI Agent
📌 一句话摘要 本文报道 Kimi K3 正式开源,成为全球首个 3 万亿参数级开源模型,详解其 MoE 架构创新、百万上下文、原生多模态及 Agent 沙盒训练,并展示接近最强闭源模型的性能与成本优势。 📝 详细摘要 文章报道月之暗面(Moonshot AI)开源 Kimi K3 模型及技术报告。K3 总参数 2.88 万亿(激活 1040 亿),采用混合注意力(KDA + Gated MLA)、注意力残差与 Stable LatentMoE 架构,扩展效率较 K2 提升 2.5 倍。原生支持 100 万 token 上下文与多模态,通过 AgentENV 沙盒进行超长步骤强化学习训练,

📌 一句话摘要

本文报道 Kimi K3 正式开源,成为全球首个 3 万亿参数级开源模型,详解其 MoE 架构创新、百万上下文、原生多模态及 Agent 沙盒训练,并展示接近最强闭源模型的性能与成本优势。

📝 详细摘要

文章报道月之暗面(Moonshot AI)开源 Kimi K3 模型及技术报告。K3 总参数 2.88 万亿(激活 1040 亿),采用混合注意力(KDA + Gated MLA)、注意力残差与 Stable LatentMoE 架构,扩展效率较 K2 提升 2.5 倍。原生支持 100 万 token 上下文与多模态,通过 AgentENV 沙盒进行超长步骤强化学习训练,并经历知识图谱引导的任务合成与多教师蒸馏。在多项基准上全面超越 Claude Opus 4.8、GLM-5.2 等,逼近 Fable 5 和 GPT-5.6 Sol。实际测试中,K3 能发现 Linux 零日漏洞、优化 GPU 编译器、自主设计芯片、复现天体物理分析。推理成本仅对标闭源模型的一半甚至更低。文章还提及硅谷对开源的支持立场,强调 K3 开源的意义。

💡 主要观点

- Kimi K3 是全球首个开源 2.8 万亿参数 MoE 模型。 总参数 2.88T,激活 1040 亿,配备 896 个专家、激活 16 个,原生支持 100 万 token 上下文和视觉-文本联合训练。

三大架构创新使扩展效率提升 2.5 倍。 KDA 混合注意力解决长序列内存瓶颈,注意力残差改善深层信息流动,Stable LatentMoE 通过 SiTU-GLU 和分位数负载均衡保持训练稳定。
通过 Agent 沙盒强化学习训练,获得超长视距智能体能力。 基于 microVM 的 AgentENV 沙盒让模型在千步级代码、自愈、多工具协作中训练,配合知识图谱任务合成和多教师蒸馏,统一了通用、代码、智能体三大能力。
性能逼近最强闭源模型,推理成本显著更低。 在多个基准上超越 Claude Opus 4.8、GPT-5.5,接近 Fable 5 和 GPT-5.6 Sol;量化感知和系统优化使其在 BrowseComp 测试中成本仅为 GPT-5.6 Sol 的一半、Fable 5 的十分之一。

💬 文章金句

- 里程碑式的工作。

  • 前沿智能属于所有人。
  • 在整体表现上,Kimi K3 仍略微落后于最强大的闭源模型,但它已经稳稳确立了开源领域的全新边界。

📊 文章信息

AI 初评:83

来源:36氪

作者:36氪

分类:人工智能

语言:中文

阅读时间:18 分钟

字数:4397

标签: LLM, 模型发布, 多模态AI, 模型训练与推理, AI Agent

阅读完整文章

查看原文 → 發佈: 2026-07-28 21:30:00 收錄: 2026-07-29 10:00:56

🤖 問 AI

針對這篇文章提問,AI 會根據文章內容回答。按 Ctrl+Enter 送出。