● 全面梳理 Muon 优化器的工业挑战及应用实践

📌 一句话摘要 本文系统梳理了 Muon 优化器的数学原理、分布式训练工程挑战及工业落地案例，涵盖 Moonlight、Kimi K2、GLM-4.5、DeepSeek-V4 等主流大模型的应用实践。 📝 详细摘要 本文对 Muon 优化器进行了全面而深入的技术梳理。文章首先从数学原理出发，解释

● 不加算力，只改一个算法：Muon 在万亿 MoE 模型中最高 2 倍加速

📌 一句话摘要 本文介绍了 Gram Newton-Schulz 算法，通过将 Muon 优化器的迭代过程转移到更小的 Gram 矩阵上，在万亿级 MoE 模型训练中实现了最高 2 倍的优化器加速。 📝 详细摘要 普林斯顿大学和纽约大学的研究者（包括 Tri Dao）提出了 Gram Newto