Anthropic 详细介绍了托管智能体的架构演进,重点在于将“大脑”(LLM/控制框架)与“双手”(沙箱/工具)解耦,以提升可扩展性、可靠性和安全性。
📝 详细摘要
本文探讨了 Anthropic 托管智能体背后的工程原则。通过虚拟化智能体组件(会话日志、控制框架和沙箱),Anthropic 从耦合的“宠物”式基础设施转向了去耦合的“牲畜”式模型。这种分离使得 LLM(大脑)能够独立于执行环境(双手)运行。主要优势包括:通过推迟沙箱配置,将首字延迟(TTFT)降低了 60-90%;通过将凭证保留在沙箱之外增强了安全性;以及提高了耐用性,使得大脑和双手在发生故障时均能恢复,而不会丢失会话状态。
💡 主要观点
- 将“大脑”与“双手”解耦,使智能体从“宠物”转变为“牲畜”。 通过将控制框架逻辑与执行沙箱分离,组件变得可互换且无状态。如果沙箱发生故障,可以重新配置而不会导致整个智能体会话崩溃。
💬 文章金句
- 我们最终的解决方案是将我们所认为的“大脑”(Claude 及其控制框架)与“双手”(执行动作的沙箱和工具)以及“会话”(会话事件日志)分离开来。
- 将大脑与双手解耦意味着容器仅在需要时才由大脑通过工具调用进行配置。
- 结构上的修复是确保令牌在 Claude 生成代码运行的沙箱中永远不可见。
- 托管智能体是一种秉持相同精神的元控制框架,它对 Claude 未来可能需要的具体控制框架保持中立。
📊 文章信息
AI 评分:92
来源:Anthropic Engineering
作者:Anthropic Engineering
分类:人工智能
语言:英文
阅读时间:9 分钟
字数:2034
标签: AI 智能体, 系统架构, 托管智能体, Claude, 基础设施