小红书、北大开源 UltraEP：面向大规模 MoE 训推的「最优」负载均衡方案

📅 2026-07-20 16:01 小红书技术REDtech 人工智能 2 分鐘 1537 字評分: 88

📌 一句话摘要小红书与北大提出 UltraEP，通过基于实时精确路由信息的动态专家复制，使大规模 MoE 训推负载均衡接近理想性能，平均达到理想吞吐的 94.3%，并在生产中部署。 📝 详细摘要文章介绍了小红书技术团队与北京大学合作开源的 UltraEP 方案，针对混合专家（MoE）模型在训练和推理过程中出现的专家负载不均问题。现有基于历史路由的预测性负载均衡方法在高度动态的细粒度 MoE 场景中效果不佳，UltraEP 则在每个 microbatch 和每一层实时获取门控后的真实负载，动态复制热点专家，实现近乎最优的负载均衡。通过限制热点专家复制在高带宽 scale‑up 域内、设计

Title: 小红书、北大开源 UltraEP：面向大规模 MoE 训推的「最优」负载均衡方案 | BestBlogs.dev

URL Source: https://www.bestblogs.dev/article/c9b1deef9a?amp%3Butm_medium=feed&%3Butm_campaign=resources&%3Bentry=rss_article_item

Published Time: 2026-07-20 16:01:00

Markdown Content: Skip to main content Audio 2 ![Image 1: LogoBest Blogs](https://www.bestblogs.dev/ "BestBlogs.dev")

Search Ctrl+K

Change language Switch ThemeSign In

[](https://www.bestblogs.dev/en/explore/brief "Daily Brief")[](https://www.bestblogs.dev/en/explore/newsletter "Weekly Picks")[](https://www.bestblogs.dev/en/explore/topics "Topics")

[](https://www.bestblogs.dev/en/settings "Settings")[](https://www.bestblogs.dev/en/docs "Help Center")

Narrow Mode

小红书、北大开源 UltraEP：面向大规模 MoE 训推的「最优」负载均衡方案

Xiaohongshu and Peking University propose UltraEP, which achieves near-ideal load balancing for large-scale MoE training and inference through dynamic expert replication based on real-time precise routing information, reaching an average of 94.3% of ideal throughput and being deployed in production. Home Discover Settings

查看原文 → 發佈: 2026-07-20 16:01:00 收錄: 2026-07-20 22:00:34

小红书、北大开源 UltraEP：面向大规模 MoE 训推的「最优」负载均衡方案

小红书、北大开源 UltraEP：面向大规模 MoE 训推的「最优」负载均衡方案

🤖 問 AI