腾讯云提出一种结合上下文卸载与 Mermaid 无限画布的短期记忆压缩方案,在超长 Session 中最高节省 61% Token 并将任务通过率提升 52%。
📝 详细摘要
本文由腾讯云开发者团队撰写,提出了一种面向 AI Agent 长任务场景的短期记忆压缩方案。核心思路是将「上下文卸载」与「Mermaid 无限画布」相结合:前者将完整的工具调用结果、网页原文等长内容卸载到外部文件系统,仅在上下文中保留摘要和索引;后者利用 Mermaid 流程图语言将离散的任务步骤组织成带状态、摘要和时间戳的任务拓扑图,使 Agent 能够理解任务结构、进度和依赖关系。文章详细阐述了符号化压缩的三条设计原则(通用知识、生成简单、表达自由),对比了 Flowchart 与 StateDiagram 的选型差异,并给出了从原始结果到 JSONL 摘要、MMD 节点、任务元数据的四层折叠与召回架构。在 SWEbench、Toolathlon、WideSearch、AA-LCR 四个评测集上的实验表明,该方案在显著降低 Token 消耗的同时,任务完成率或准确率均有提升。消融实验进一步验证了 Mermaid 画布在保留任务结构方面的关键作用。该能力已随 TencentDB Agent Memory 产品化发布并开源。
💡 主要观点
- 短期记忆压缩的核心是同时解决「信息太长」和「结构丢失」两个问题。 单独使用上下文卸载只能将长内容移出上下文,但 Agent 仍难以理解任务步骤间的依赖关系;单独使用 Mermaid 画布能表达任务结构,但缺乏底层原始证据支撑。两者结合才能实现细节可恢复、结构不丢失。
💬 文章金句
- 问题不在于信息太多,而在于信息没有被「压缩成最可用的形式」。
- 真正可用的压缩,不应该依赖模型「记住了什么符号」,而应该依赖模型「能够从符号中推理出什么结构」。
- Mermaid 不是把历史变成一段话,而是把历史变成一张可以继续执行的任务地图。
- 「无限」的重点不是「无限读取」,而是「无限可达」。
- 上下文卸载就是把 Agent 的工作记忆变轻:眼前只放当前要用的信息,细节放在外部,靠索引随时找回。
📊 文章信息
AI 初评:90
来源:腾讯云开发者
作者:腾讯云开发者
分类:人工智能
语言:中文
阅读时间:73 分钟
字数:18050
标签: Agent Memory, 上下文卸载, Mermaid, 短期记忆压缩, AI Agent