← 回總覽

HuggingFace CEO 力荐,Bengio 团队也押注:这个 1500 美元训出的 HRM 模型,凭什么火了?

📅 2026-06-13 20:40 鹭羽 人工智能 2 分鐘 1830 字 評分: 86
AI 模型 LLM 推理模型 模型架构 AI 商业化
📌 一句话摘要 本文深度解读 Sapient Intelligence 发布的 HRM-Text 模型,分析其 1500 美元训出 1B 参数模型背后的分层递归推理架构,并论证该路线正在成为下一代推理模型的重要方向。 📝 详细摘要 文章围绕 Sapient Intelligence 发布的 HRM-Text 模型展开,该模型以约 1500 美元成本、1B 参数、从零预训练,在多个推理基准上达到与 2B-7B 主流模型相当的水平。文章核心论点在于,HRM-Text 的价值不在于「小模型逆袭」,而在于其背后的 HRM(Hierarchical Reasoning Model)架构——一种在潜空

📌 一句话摘要

本文深度解读 Sapient Intelligence 发布的 HRM-Text 模型,分析其 1500 美元训出 1B 参数模型背后的分层递归推理架构,并论证该路线正在成为下一代推理模型的重要方向。

📝 详细摘要

文章围绕 Sapient Intelligence 发布的 HRM-Text 模型展开,该模型以约 1500 美元成本、1B 参数、从零预训练,在多个推理基准上达到与 2B-7B 主流模型相当的水平。文章核心论点在于,HRM-Text 的价值不在于「小模型逆袭」,而在于其背后的 HRM(Hierarchical Reasoning Model)架构——一种在潜空间中进行高层/低层双时间尺度递归计算的推理结构。文章详细拆解了 HRM 的核心设计:高层模块(战略脑)与低层模块(执行脑)在同一个神经网络内反复更新内部状态,而非依赖外部思维链文本;训练目标上只对回答部分计算损失,使信号更集中;并通过 MagicNorm 等技术解决递归训练不稳定的问题。文章进一步指出,图灵奖得主 Yoshua Bengio 参与的 GRAM 论文在核心骨架上高度复用了 HRM 的设计,说明该架构路线已被顶尖研究者认可和扩展。最后,文章展望了 HRM 作为「推理核心」在企业应用和多模态世界模型中的潜力,并强调其代表了「Scaling 之外的另一条路」。

💡 主要观点

- HRM-Text 的核心创新在于分层递归推理架构,而非参数规模或训练成本。 模型通过高层(慢更新、把握方向)与低层(快更新、局部计算)模块在潜空间中反复递归更新内部状态,实现有限参数下的更深层有效计算,区别于传统 Transformer 的单次前向传播。

HRM-Text 的训练策略聚焦于「完成任务」而非「预测整个文本序列」。 模型使用 PrefixLM attention mask,只对回答部分计算损失,使训练信号更集中地落在任务完成上,而非平均分散在整段文本中,从而提升推理效率。
Yoshua Bengio 参与的 GRAM 论文在核心骨架上高度复用 HRM 设计,验证了该路线的学术价值。 GRAM 的高层/低层状态、双时间尺度、潜空间递归等核心元素与 HRM 高度一致,相当于在 HRM 的确定性递归骨架上增加了概率生成模块,说明该架构已被顶尖研究者采纳和扩展。
HRM 路线代表了「Scaling 之外的另一条路」,即通过改进计算结构而非无限扩大参数来提升模型能力。 文章认为,HRM-Text 的意义不在于否定 Scaling,而是证明模型能力增长除了参数、数据和算力之外,计算结构本身也是一个关键变量,为基础模型创新提供了新的可能性。
HRM 的长期目标是实现推理与知识解耦,成为企业级「推理核心」。 模型不需要记住一切,而是学会如何思考、查找、验证和行动,未来可作为底层推理核心,应用于系统诊断、优化、数据组织和工具调用等复杂任务场景。

💬 文章金句

- 模型到底需要记住全世界,还是需要学会如何思考、如何查找、如何验证、如何行动?

  • HRM 问的是一个更激进的问题:推理为什么一定要写出来?
  • HRM-Text 不是在模型外面拼接一个规划器,而是把分层递归计算内建进模型本身。
  • AI 的未来,不应该只有一条路。
  • Sapient 不是在追随行业已有的答案,而是在提前给出一个可运行、可开源、可验证的新答案。

📊 文章信息

AI 初评:86

来源:量子位

作者:鹭羽

分类:人工智能

语言:中文

阅读时间:41 分钟

字数:10065

标签: AI 模型, LLM, 推理模型, 模型架构, AI 商业化

阅读完整文章

查看原文 → 發佈: 2026-06-13 20:40:30 收錄: 2026-06-14 02:00:12

🤖 問 AI

針對這篇文章提問,AI 會根據文章內容回答。按 Ctrl+Enter 送出。