Cursor 优化了 Blackwell GPU 上的 MoE 模型 Token 生成过程,实现了 1.84 倍的推理加速并提升了输出准确性。
📝 详细摘要
Cursor 宣布其模型推理栈取得重大工程突破。通过重构混合专家模型(MoE)在 NVIDIA Blackwell GPU 上的 Token 生成方式,他们实现了 1.84 倍的推理加速,并提升了输出准确性。这一优化直接增强了其 Composer 模型的训练流水线,使其能够更频繁地发布模型优化版本。
📊 文章信息
AI 评分:91
来源:Cursor(@cursor_ai)
作者:Cursor
分类:人工智能
语言:英文
阅读时间:2 分钟
字数:252
标签: Cursor, Blackwell, MoE, 推理优化, AI 工程