PODCAST
91⭐ Featured
Wang Yanpeng, Chief Scientist of AI Computing at Baidu Intelligent Cloud, provides an in-depth interpretation of the paradigm shift from the model era to the agent era, analyzes the different layouts of giants in the hidden track of Agent Infra, and reveals how computing power, open source, and engineering reshape the future AI competitive landscape.
00:00 00:00
CH.1 AI Agent 时代的操作系统与硬件协同创新 00:00 — 04:31
00:00 1
CPU 极大的释放了算力，但是它牺牲了通用性。完成一个真实的任务。意味着今天人操作的所有的基础设施，各种软件都要被 agent 去用了。模型的能力的边界在哪里？其实就决定了你最终的那个肌腱。
00:15 2
就像一个青春期的孩子不停的在长身体，你好像没办法为他量身定做一套合身的衣服。对，巨头都在打造全新的 agent info，这个好像是一个特别吸睛又特别决定未来的一个赛道模型。
00:28 1
以后会是 OS 这个操作系统足够的庞大，它会形成一个新的生态。大家第一目标就会去抢这个入口，OS 是大家要争夺的焦点。
00:44 2
Hello 大家好，我是狮杰。我们正经历从模型时代到 agent 时代的过渡。底层技术正在经历怎样的演变？国内和硅谷有着怎样重要的 AI 趋势？为什么这是工程师最好的时代？这期节目我邀请了百度智能云 AI 计算首席科学家王彦鹏，一起深入探讨 agent info 这个隐秘战场。接下来是我和王彦鹏的访谈，欢迎彦鹏跟大家打个招呼。
01:13 1
大家好，我是王彦鹏。
01:15 2
来自百度智能云。
01:16 1
我们可以先做一个自我介绍。好的，我的是 111 年来到百度，应该算是国内第一批在互联网公司做硬件的人。当时的一个时间节点是啥呢？就是当时第一次有互联网公司采购服务器的数量超过了 1 万台，也得花一大笔钱去买服务器。所以我们算是第一批进入互联网来工作的硬件的背景。
01:43 2
的踩上云的时代。
01:44 1
搜索是当时最大的一个单体的应用。我们就会做到就相当于整个的跟硬件相关的，包括我们自己做的 SSD，自己做的 CPU，硬盘，然后当然有一条最主要的线就是 GPU 这条线。所以在我的整个的工作生涯里面，基本上就是针对比较重要的负载，然后我去做这个全栈的优化。就从这个应用到英法到硬件全站的去提升这个效率，照顾到我的播客听众。
02:16 2
我可能用一些比较通俗的话语给大家翻译一下。我是这么理解 info 这个工作的，我们要让 AI 跑起来运作起来。Info 它就像一个大的交通基建。然后您就是那个总工程师的角色。
02:30 1
可以这么理解吗？可以这么理解，英法这个工作其实是一个很古老的工作了。我们如果从泛化一点来讲，英法是什么东西呢？就是英法其实就是咱们抽象一个层次，这个层次有足够的通用性。我们从大了讲，比如说今天台积电，你说它是不是英法？它也是英法，它是做制造的音法，因为它的影响面足够大。从我们更狭义一点的，就是从我们互联网讲的这个音法，最早大家更关注的是操作系统。你像我念书的时候，其实大家说到的英法基本上就是操作系统，就研究 linux 然后到后面数据库，再到后面就是云。
03:11 1
但这一次 AI 云法确实也是一个很大的变化。大家可以看到大家原来更多接触的是操作系统、数据库，然后分布式系统等等这些东西，它都是一个纯软件的概念，为什么呢？其实因为包在后面，是因为当时是一个 CPU 的时代，其实芯片已经给你固定好了。因为 CPU 本质上就是一个能够跑任何应用的一个芯片，而且在上面可以很均衡的跑各种应用，你不需要为每个应用去做深度的优化。所以你可以看到我们前一代的英法基本上全是软件视角。
03:44 1
这一代 AI 音法会有一个巨大的区别，就是我们是以 GPU 为核心构建的这个音法。那 GPU 是什么东西呢？它是一个极大的释放了算力，但是它牺牲了通用性。原来 CPU 可以做任何事情，但是 PU 你要想把它用好是非常困难的，它相当于把算力给你堆砌的很高。但是我在各个场景，我在各个算法上面，我能不能发挥这个算力，其实就需要很多很多的工作。所以就把原来的偏软件的音法推向了软硬一体的音法。这是我认为在 AI 音法这一层大家看到的最大的变化。所以你做 AI 音法的人，就是一定是从芯片的体系结构熟悉起，然后来做上来的。不是原来只是做算法。
Click any line to jump · Hover to ask AI
Content Overview
对话聚焦 AI 从模型到 Agent 时代的转变，强调了底层技术变化对基础设施的影响及模型能力提升带来的范式转变。讨论了 Agent 在生产环境的应用挑战，如可控性、可信任性和可复现性，以及巨头公司垂直整合策略的重要性。王彦鹏分享了 GPU 引入带来的算力提升与通用性牺牲，指出 Agent 兴起对基础设施提出更高要求，包括长上下文支持和复杂网络连接。最后，他表达了对 AI 技术发展的乐观态度，认为这是一个工程师的黄金时代，工程化方法正在解决更广泛和复杂的问题，期待未来 Agent 生态的发展。
#### Speaker Summaries
发言人2
他讨论了从模型时代向 agent 时代的技术过渡，强调了 agent info 作为未来发展方向的重要性。他指出，尽管当前 agent 技术仍处于可用但未达到理想状态的阶段，但其潜力巨大，吸引了众多巨头与创业者的关注。与王彦鹏深入探讨后，他分析了 agent info 的技术底层逻辑、生态趋势及面临的挑战，如算力、网络和存储需求的激增。此外，他还比较了国内外巨头在 agent info 领域的布局差异，指出国内 AI 路径可能受 info 路径影响的独特特性，并提及了指标转变和工程师在新时代探索的乐趣。他认为，agent info 领域充满机遇与挑战，是值得深入探索的未来赛道。
发言人1
他，王彦鹏，深入探讨了 AI 领域中 Agent 与操作系统融合的趋势。他指出，GPU 的算力释放虽强大，但牺牲了通用性，促使 AI 基础设施朝软硬件一体化发展。随着 Agent 概念的演进，从简单的 API 调用到执行真实任务，需构建复杂环境与工具。王彦鹏预测，未来的 AI OS 将形成庞大生态，成为竞争焦点，垂直整合的公司如 Google 与 NV 凭借全栈能力在 AI 竞争中领先。他强调，推理芯片与多芯片适配是关键挑战，开源生态促进了技术透明与进步，国产芯片与架构创新为市场带来新机遇。王彦鹏还提到，提升 token 效率与任务价值是当前重要指标，Agent 的开发需快速、稳定且可复现，高价值任务的实现将推动 Agent 广泛应用。他坚信，AI 时代为工程师提供广阔探索空间，工程化思维与体系构建是成功关键。
agent info 模型 算力 GPU 操作系统 任务 基础设施 抽象 开发 范式 通用性 安全 变化 稳定 生产环境 可控 信任 开发范式 复杂任务
Content Overview
我们正经历从模型时代到 Agent 时代的过渡。
底层技术正在发生怎样的演变，有哪些硅谷与国内的重要 AI 趋势？为什么这是工程师最好的时代？
这期播客，我邀请了百度智能云AI 计算首席科学家王雁鹏，深入探讨 Agent Infra 这个重要的「隐秘战场」。
（本期视频版也已上线：欢迎前往 b 站、视频号、小红书等平台观看～）
本期 Shownotes：
01:46模型动向、AI 基建正在发生什么？* 什么是 AI Infra？「Infra 其实就是抽象一个层次，这个层次有足够的通用性。」
* AI Infra 为什么从软件走向软硬一体？「前一代的 Infra 基本上全是软件视角，这一代 AI Infra 有一个巨大的区别：它是以 GPU 为核心构建的。」
* GPU 极大释放了算力，但是牺牲了通用性
* 从 AI Infra 到 Agent Infra ，意味着什么？「完成真实任务意味着我得有一个完整的环境，人操作的所有基础设施和软件，都要被 agent、被 AI 去用。」 04:25Agent 从 demo 走向生产环境，还差什么？
* Agent 的三阶段 —— 从 Chat 到「完成岗位」的鸿沟
* 模型能力边界，决定 Infra 抽象层在哪里
* 新时代的数据库是什么，memory 系统长什么样，还在变化
* 模型的智力等于算力，算力等于电力
* Agent 可控、可信任：每一次执行结果不变、可重复
* 基础设施层面，需要构建一套能够快速部署、快速开发、大规模运行的系统，一个更强的推理集群 12:03OpenClaw、Hermes 与 Agent harness 的范式变化
* 「Claude 4.5 出来时，程序员圈已经被震撼过一波」
* 「Openclaw 第一眼没什么特别，再看还是有点东西」
* harness 的三件套：loop（主循环） + tools（调用工具） + memory（记忆系统）
* loop 的通用性极强 ：「让大模型看上一步结果 → 分析问题 → 决定下一步 → check 是否达标」
* Memory 从 RAG 演进到文件系统：更通用
* Hermes 的更进一步 —— 自动净化 skills（定期反思：这个任务哪里不好、下次怎么做更好、整理成明天可用的 skill） 18:44模型即 OS ：大家争夺的都是超级入口
* 为什么 agent 会越来越多：大模型以后会是 OS，是大脑
* 通用大脑就像天才：可以做任何事，但不会 day1 就能做任何事，中间的学习成本 + knowhow 沉淀 = 应用层的价值
* Agent 的三大支柱：长上下文冲击算力、存储、网络与 CPU 消耗
* CPU 的消耗，可以窥见 Agent 诞生了多少真实价值
* 「这仍然是巨头的游戏」
* 为什么英伟达的生态很难撼动？ 36:42Agent Infra，巨头都在布局的最吸金、最隐秘的赛道
* 智能 = 算力 = 生产资料
* 「所有巨头都会往下做垂直整合」
* Anthropic、OpenAI、Google 的 Infra 路线差异：
> 谷歌，最典型的垂直整合派：TPU 做了近 10 年、JAX 自研、Infra 自研、模型自研 —— 芯 、 云 、 模真正一体化 > > > Nvidia：不再是芯片公司，而是系统公司 > > > Anthropic（轻资产，聚焦入口派）：聚焦模型 + Claude Code 这个高价值入口；算力靠跟 AWS / Google 签协议保障，短期不用自己造芯片
* OpenAI（重资产，生态平台派）：「从 GPT Store 那时就想做 App Store 式生态」；
* 垂直整合的隐藏难点：「软件世界与硬件世界有 gap」
* 「今天定义的芯片两年半后出来时，还是不是那个模型需求？很大程度上不是」
* NV 的缝隙在推理系统 51:19中国 Infra 路径：多芯适配、开源生态
* 国内 vs 国外 Infra 的两大差异：
> 芯片环境不一样：国外主要在 NV 生态；国内要考虑国产芯片、要做更多多芯适配 > > > 中国的开源远远领先于美国 —— 开源意味着模型架构透明，做芯片的能知道往哪里走
* 百度智能云的两个押注：更高的算力与 Token 效率 + 和未来的新星走在一起
* Robin（李彦宏）提出的新指标 DAA（Daily Active Agents） —— 替代 Token 数量作为 Infra 层的牵引指标
* 「Token 数是一个会被玩坏的指标」：不能做杀鸡取卵的事
* 提升 DAA 的路径：让开发更快 + 让运行更稳（可自动恢复、结果可 check） + 分任务价值高低（高价值多花功夫做）
* 趋势：从 Token 到 DAA ：Agent 时代需要更多衡量真实价值
* 提升 DAA 的路径：让开发更快 + 让运行更稳（可自动恢复、结果可 check） + 分任务价值高低（高价值多花功夫做） 01:00:22为什么这是工程师更好的时代 ？
* 更大的探索空间：做 Infra 的人在 CPU 时代不会在芯片层面想工作；到 AI 时代能做很多系统层面的事；到 Agent 时代要做更不一样的系统
* 当下，整个研究范式都在工程化： 「工程化研究范式」是这一代 AI 的隐藏画像
* Transformer 架构统一之后，各家拼的其实是工程能力
* 「算法工程师」的时代结束了，「AI 系统工程师」的时代开始了
* 「今天你用工程的方法去解决更多、更广泛、更复杂的问题」
加入听友群⬇️：
Make your daily reading actually fit you.A daily brief built from the sources you follow. Get started free
AI Agent 时代的操作系统与硬件协同创新
CH.1 · 00:00 — 04:31
00:00 / 00:00