← 回總覽

下半年,垂直 Agent 先下牌桌?

📅 2026-07-29 18:50 腾讯科技 人工智能 2 分鐘 1416 字 評分: 88
AI Agent Token消耗 算力需求 开放权重模型 垂直应用
📌 一句话摘要 文章分析 AI Agent 的算力与 Token 消耗激增趋势,探讨其对算力、内存、开放与闭源模型竞争及垂直应用壁垒的影响。 📝 详细摘要 文章指出,随着 AI Agent 进入实际应用,其在长链复杂任务中的 Token 消耗可能比普通聊天高出百至千倍,推动算力需求从训练转向高频并发推理,同时内存、显存成为新瓶颈。开放权重模型与闭源模型竞争加剧,企业需在成本、数据安全与性能间取舍。垂直应用的壁垒被通用模型侵蚀,但深度行业 Know-how 仍具护城河;Token 工厂和公共推理服务兴起,但数据安全成为关键门槛。 💡 主要观点 Token 消耗激增推动算力与内存需求从训练转

📌 一句话摘要

文章分析 AI Agent 的算力与 Token 消耗激增趋势,探讨其对算力、内存、开放与闭源模型竞争及垂直应用壁垒的影响。

📝 详细摘要

文章指出,随着 AI Agent 进入实际应用,其在长链复杂任务中的 Token 消耗可能比普通聊天高出百至千倍,推动算力需求从训练转向高频并发推理,同时内存、显存成为新瓶颈。开放权重模型与闭源模型竞争加剧,企业需在成本、数据安全与性能间取舍。垂直应用的壁垒被通用模型侵蚀,但深度行业 Know-how 仍具护城河;Token 工厂和公共推理服务兴起,但数据安全成为关键门槛。

💡 主要观点

- Token 消耗激增推动算力与内存需求从训练转向推理 在长链复杂任务中,Agent 的 Token 使用可能比普通聊天高出百至千倍,使高频并发推理成为算力瓶颈,内存和显存需求同步上升。

开放权重模型与闭源模型竞争加剧,企业需平衡成本、安全与性能 闭源模型依赖 API 提供前沿能力,开放权重模型可私有化部署以降低长期 Token 成本,但需在性能与数据隐私之间取舍。
垂直应用壁垒被通用模型侵蚀,但深度行业 Know-how 仍具护城河 通用模型在代码、工具调用等方面不断提升,单纯依赖包装难以维持垂直壁垒;而行业特有的 SOP、仿真数据等难以被快速吸收。
Token 工厂和公共推理服务兴起,数据安全成为关键门槛 部分平台仅为第三方转售,存在明文数据泄露风险;企业需审查服务方的数据隔离、加密与审计能力以降低安全隐患。

💬 文章金句

- 在部分长链、复杂任务中,Agent 的 Token 消耗可能比传统聊天场景高出百倍、千倍,极端情况下还可能达到更高量级。

  • 到了 2026 年 4 月,OpenAI 的 API 处理规模已经超过每分钟 150 亿 Token。
  • 根据 SK 海力士 7 月 29 日发布的 2026 年第二季度财报显示,2026 年第二季度营收和营业利润均创历史新高,主要受 HBM、AI 服务器 DRAM 和企业级 SSD 需求增长推动。
  • 7 月 29 日,在一项新的披露中,OpenAI 表示,其智能体利用已泄露的登录信息,成功访问了至少四个'公开可用的服务',以完成其疯狂的测试任务。
  • 一个沉淀了专业知识、行业流程和边界规则的 Skill,即使加载在普通模型或较先进模型上,也可能在特定任务中获得更好的结果。

📊 文章信息

AI 初评:88

来源:腾讯科技

作者:腾讯科技

分类:人工智能

语言:中文

阅读时间:22 分钟

字数:5326

标签: AI Agent, Token消耗, 算力需求, 开放权重模型, 垂直应用

阅读完整文章

查看原文 → 發佈: 2026-07-29 18:50:00 收錄: 2026-07-30 08:00:36

🤖 問 AI

針對這篇文章提問,AI 會根據文章內容回答。按 Ctrl+Enter 送出。