全部 未讀 (21636) ★ 收藏 (0) 🤖 人工智能 (11175) 📊 商业科技 (4465) 💻 软件编程 (1685) 📁 个人成长 (1606) 📁 生活文化 (860) 📁 媒体资讯 (828) 📁 投资财经 (533) 🎨 产品设计 (409) 📁 AI 产品 (39) 📁 体育运动 (28)
篩選中: 🏷️ Token Superposition Training 共 2 篇 ✕ 清除篩選
21638
全部文章
21636
未讀
225
今日新增
0
收藏
📡 Poller 最後抓取: 42 分鐘前 (06-08 22:00)
BestBlogs 精選 (21603)

🏷️ 熱門標籤

AI Agent 2161 AI 编程 988 Anthropic 981 Claude Code 916 AI 智能体 780 OpenAI 745 LLM 677 开源 574 OpenClaw 557 Claude 557 AI 517 AI 安全 490 开发者工具 432 Codex 416 软件工程 399 具身智能 335 Agent 334 个人成长 333 GitHub 321 生产力 315
● Hermes 团队改写预训练：算力成本降六成，DeepSeek 之后提效新路径
📌 一句话摘要 Nous Research 团队提出 Token Superposition Training (TST) 方法，通过将预训练早期改为粗粒度词元叠加学习，在百亿参数 MoE 模型上实现约 2.5 倍训练提速，算力成本降至原来的四成。 📝 详细摘要 本文报道了 Nous Resea
📅 2026-05-17 10:15 (22 天前) InfoQ 中文 人工智能 2 分鐘 ★ 86
Token Superposition Training 预训练 训练效率 Nous Research
● 不改架构、不加算力：Nous Research 巧用 Token 叠加，预训练提速 2.5 倍
📌 一句话摘要 Nous Research 提出 Token Superposition Training (TST)，通过在预训练前半程将连续 token 的 embedding 平均并预测下一组 token，在不改模型架构和推理方式的前提下，实现 10B MoE 模型同等 loss 下最高 2
📅 2026-05-14 17:36 (25 天前) PaperWeekly 人工智能 2 分鐘 ★ 86
Token Superposition Training 预训练加速 Nous Research MoE