全部 未讀 (37965) ★ 收藏 (0) 🤖 人工智能 (14345) 📊 商业科技 (6666) 📁 媒体资讯 (5286) 📁 投资财经 (3257) 📁 生活文化 (2810) 💻 软件编程 (2056) 📁 个人成长 (1960) 📁 体育运动 (1000) 🎨 产品设计 (533) 📁 AI 产品 (39)
篩選中: 🏷️ Token Superposition Training 共 2 篇 ✕ 清除篩選
37967
全部文章
37965
未讀
235
今日新增
0
收藏
📡 Poller 最後抓取: 1 小時前 (08-07 18:00)
BestBlogs 精選 (37894)

🏷️ 熱門標籤

AI Agent 3174 政策解读 1615 投资与市场 1407 AI 编程 1330 宏观经济 1282 产业动态 1264 国际新闻 1159 LLM 1151 Anthropic 1087 Claude Code 1038 社会议题 1002 国内新闻 970 地缘政治 931 OpenAI 892 科技新闻 884 AI 智能体 788 生活方式 700 开源 684 足球 674 个人成长 670
● Hermes 团队改写预训练：算力成本降六成，DeepSeek 之后提效新路径
📌 一句话摘要 Nous Research 团队提出 Token Superposition Training (TST) 方法，通过将预训练早期改为粗粒度词元叠加学习，在百亿参数 MoE 模型上实现约 2.5 倍训练提速，算力成本降至原来的四成。 📝 详细摘要 本文报道了 Nous Resea
📅 2026-05-17 10:15 (05-17 10:15) InfoQ 中文 人工智能 2 分鐘 ★ 86
Token Superposition Training 预训练 训练效率 Nous Research
● 不改架构、不加算力：Nous Research 巧用 Token 叠加，预训练提速 2.5 倍
📌 一句话摘要 Nous Research 提出 Token Superposition Training (TST)，通过在预训练前半程将连续 token 的 embedding 平均并预测下一组 token，在不改模型架构和推理方式的前提下，实现 10B MoE 模型同等 loss 下最高 2
📅 2026-05-14 17:36 (05-14 17:36) PaperWeekly 人工智能 2 分鐘 ★ 86
Token Superposition Training 预训练加速 Nous Research MoE