AI 智能体：当百万个代理开始替你谈判、花钱与协作

📌 一句话摘要

Google DeepMind 的科学家 Nenad Tomašev 深度探讨 AI 智能体的本质是「会行动」，并系统性地拆解了当数百万个智能体组成社会后，在信任、安全、经济和集体对齐上将面临的巨大挑战与未来形态。

📝 详细摘要

本期节目由 Hannah Fry 对谈 Google DeepMind 高级主任研究科学家 Nenad Tomašev。讨论从 AI 智能体的基本定义切入，指出其与大语言模型的根本区别在于能够观察环境并通过工具采取行动，而不仅仅是续写文本。对话的核心并非是智能体在个人效率场景的应用，而是追问一个更深远的问题：当数百万个智能体在互联网中同时存在，彼此交易、协商、委托、竞争时，将形成怎样的「智能体经济」。Tomašev 的观点克制且信息密度极高，他详细拆解了智能体大规模落地必须面对的安全陷阱，如提示注入、动态伪装和自动化偏见，并强调了纵深防御和人类「清醒监督」的不可替代性。在展望未来时，他提出了一个颠覆性判断：通用人工智能的终局可能并非一个巨型的单体模型，而是一个由通用编排层和无数便宜、可靠、可认证的专用型智能体组成的分布式智能社会。节目的最后将安全对齐问题从单体模型层面提升到了制度与经济层面，引人深思。

💡 主要观点

- 智能体的本质是「行动」，而非「聊天」 大语言模型仅是对 Prompt 的续写，而智能体会观察环境状态，并通过外层 harness 调用工具（如邮箱、钱包、网页）执行多步骤行动来改变真实世界。

「人在环路中」不能沦为形式，必须要求「清醒监督」 自动化偏见会导致人类在智能体连续正确后放松警惕，从而漏过隐蔽的错误。真正的监督要求人类全程保持高度投入，不能将责任外包给流程。

未来的 AGI 可能是一个分布式的智能体社会，而非单一巨型模型 从经济逻辑出发，一个昂贵缓慢的通用模型不如一个通用编排层加大量便宜可靠的专用智能体（如专用下棋引擎）。这种分布式智能更像人类社会分工，而非单个超级大脑。

对齐一个由百万智能体组成的「社会」，比对齐单一模型艰难得多 当智能体之间存在复杂的动态交互、委托和交易时，对齐变成了系统级、经济级和制度级的问题。不仅单个智能体要安全，还要防范群体思维、认知单一文化和隐性串通。

缺乏决策多样性的「认知单一文化」是系统性风险的根源 如果大量智能体都基于少数几个相似的底层模型，它们可能会做出高度相关的决策，导致金融市场等场景中出现相关故障点和群体性闪崩。

💬 文章金句

- 智能体会观察世界的某种状态，然后在它所处的世界里、在给定的环境里采取行动。

• 人还必须真正投入，保持清醒，因为你一旦放松警惕，就等于在掷骰子。
• 信任可以被给予，但也需要被赢得。
• 当你一下子部署几十万、几百万个人工决策者，而它们又倾向于做出相似决定时，故障点就会变得相关。
• 也许复制人类水平智能并不是最终目标，也许未来真正的方向是复制全人类水平智能。

📊 文章信息

AI 初评：86

来源：跨国串门儿计划

作者：跨国串门儿计划

分类：人工智能

语言：中文

阅读时间：53 分钟

字数：13048

标签： AI Agent, 多智能体系统, AI 安全, 通用人工智能, 经济机制设计

收听完整播客