文章介绍商汤通过异构混合推理让国产算力实现盈利,并规划大规模 Token 工厂与星地一体算力网。
📝 详细摘要
文章报道了商汤在 WAIC 2026 上发布的异构混合推理方案:利用国产卡承担 Prefill(读题)任务,高端卡专注 Decode(答题),通过系统级优化实现算力利用率提升、Token 产出规模扩大及盈利。文中引用了杨帆对盈利的明确定义(“收入覆盖折旧、摊销、机柜租赁、电费和人员服务费之后,利润率为正”)以及张行程对异构方案复杂度的说明(“纯英伟达方案 4 个 Prefill 对 1 个 Decode 就够了,换成国产方案变成 30 对 1,网络复杂度、调度复杂度、容错复杂度全线飙升”)。文章还披露了 Token 产出规模从年初日均 4000 亿升至 7 月底预计 2.42 万亿、年底目标 1 万亿/日,以及商汤通过端到端控制、储能调度、生态伙伴(银河计划)和星地算力卫星布局等多维度战略。整体内容兼具技术深度、市场数据和商业落地案例,具备较高的信息价值与原创性。
💡 主要观点
- 异构混合推理让国产卡承担 Prefill,高端卡专注 Decode,显著提升算力利用率。 商汤在三款国产芯片上进行定向优化,单卡 MFU 平均提升约一倍,最高达 152%;相比国产同构推理,同样成本下 Token 产出规模扩大 2.5 倍。
💬 文章金句
- 收入覆盖折旧、摊销、机柜租赁、电费和人员服务费之后,利润率为正。是真金白银地赚钱。
- 纯英伟达方案 4 个 Prefill 对 1 个 Decode 就够了,换成国产方案变成 30 对 1,网络复杂度、调度复杂度、容错复杂度全线飙升。
📊 文章信息
AI 初评:86
来源:新智元
作者:新智元
分类:人工智能
语言:中文
阅读时间:17 分钟
字数:4113
标签: AI 基础设施, 异构混推, 国产算力, Token 经济, 商汤 SenseTime