随着 Agent 规模化应用，AI 基础设施正从单纯堆 GPU 转向 CPU 与 GPU 耦合的系统重构，涉及计算链路、资源调度与数据中心布局的深层变革。
📝 详细摘要
文章基于浪潮信息副总经理赵帅的观点，分析了 Agent 时代 AI 基础设施的结构性变革。过去以 GPU 为中心的推理逻辑，现在需要与 CPU 负责的任务拆解、工具调用、状态管理等工作耦合。文章指出 Agent 需要运行在 CPU 沙箱中，并提出了多 Agent 协作提升质量但增加成本的问题，强调模型路由的重要性。此外，还探讨了兆瓦级机柜带来的供电（800V 直流）、液冷及数据中心布局的新挑战。
💡 主要观点
- Agent 改变计算链路：从单纯的 GPU 推理转向 GPU 负责“想”、CPU 负责“干”的双系统耦合。 Agent 任务不仅包含模型推理，还涉及大量任务拆解、流程编排、信息检索和状态管理，这些工作需要 CPU、内存、存储和网络共同完成，导致基础设施从单链路变为两套耦合系统。
💬 文章金句
- Agent 一定是运行在 CPU 之上的，因为要做更多的其实是整型运算、逻辑推理、分支预测等等工作，这一定是运行在 CPU 之上的。
- 这里有一个比较大的难点就是模型路由，这也是行业内重点在做的一个工作，就是一定要把模型路由，把一些真正让企业能够看起来用了几个模型融合，但是可能的成本比你所有任务都用万亿参数大模型还要低，因为会把所有的简单任务全卸载掉了。
📊 文章信息
AI 初评：85
来源：InfoQ 中文
作者：InfoQ 中文
分类：人工智能
语言：中文
阅读时间：19 分钟
字数：4747
标签： AI Agent, AI Infra, GPU, CPU, 模型路由