从 Serverless 到 Agent：Cube 系统的一些设计思考

📌 一句话摘要

本文详细介绍了腾讯云 Cube Sandbox 系统从 Serverless 到 Agent 场景的设计演进，重点阐述了其高密、高弹性、高并发的虚拟化架构，以及面向 AI Agent 的安全与防御能力。

📝 详细摘要

文章首先回顾了 Serverless 计算带来的核心挑战：资源粒度小、极速冷启动和海量并发。为解决传统 IaaS 在应对这些挑战时的不足，腾讯云设计了 Cube Sandbox 系统。文章深入剖析了 Cube 的七大核心设计：分布式调度与单机装箱、资源池化与单机闭环、前后端解耦、快照恢复与懒加载、资源复用与按需申请、全栈锁优化以及原生安全。这些设计共同实现了单节点 2K+ 沙箱的高密度、60ms 内从零启动的高弹性，以及单节点 100 并发 P99 小于 200ms 的高并发能力。随着 AI 应用从对话式向执行式发展，Cube 的能力被复用于 Agent 场景，如代码执行和强化学习。文章进一步探讨了面向 Agent 的安全与防御，包括事件级无感快照和回滚能力，以应对 Agent 行为的不可预测性。最后，文章展望了 Agent Infra 的未来，并宣布将 Cube 系统开源。

💡 主要观点

- Cube 系统通过分布式调度、资源池化和快照恢复等设计，解决了 Serverless 场景的高密、高弹性、高并发挑战。 系统采用中心调度与本地装箱结合，实现线性扩展；通过资源池化和单机闭环加速沙箱创建；利用快照恢复和懒加载技术，实现百毫秒级启动和单节点 2K+ 沙箱的高密度。

Cube 的虚拟化能力被成功复用于 AI Agent 场景，为代码执行和强化学习提供基础设施。 Agent 场景对沙箱的快速启动、高并发和安全隔离有极高要求，Cube 在 Serverless 场景打磨的能力恰好满足这些需求，例如为元宝代码执行和外部大模型客户的 RL 训练提供支持。

面向 Agent 的不可预测行为，Cube 设计了事件级无感快照和回滚能力作为关键防御手段。 Agent 行为具有概率性，无法完全预测。Cube 通过自研的 CoW 存储实现百毫秒级的环境快照，允许在发生意外时快速回滚，将影响域限制在沙箱内，并计划将这一能力扩展到整个 Agent Infra。

💬 文章金句

- 所有只读存储整节点只存储一份是 Cube 系统的设计目标

系统的事件级快照和回滚能力成为面对 Agent 用户的关键设计。
我们也会将 Cube 系统完整的向行业开源，希望我们多年持续打磨和建设的能力能够为行业 Agent Infra 的发展贡献一份力量。

📊 文章信息

AI 初评：88

来源：InfoQ 中文

作者：InfoQ 中文

分类：人工智能

语言：中文

阅读时间：18 分钟

字数：4290

标签： Serverless, Agent, 虚拟化, 沙箱, 高并发

阅读完整文章

从 Serverless 到 Agent：Cube 系统的一些设计思考

🤖 問 AI