更多文章

AI 与开发者相关深度内容

Agent Memory能降Token消耗吗?

你有没有遇到过这样的场景:让 Agent 跑一个跨天的长任务,历史越堆越长,Token 账单像坐了火箭,更糟的是 Agent 自己都忘了上一步在干嘛,状态一丢就得重跑。长任务带来的不只是成本问题,还有结构丢失和上下文溢出。为了解决这个普遍痛点,腾讯云数据库正式开源了 TencentDB Agent Memory 。
一键免费部署:https://github.com/TencentCloud/TencentDB-Agent-Memory

长任务下的上下文困境与组合解法

在超长 Session 里,Agent 往往面临两个并发问题:一是工具返回的原始内容直接铺进上下文,把窗口占满;二是任务进度被线性历史压成一条流水账,压缩时结构信息一并丢失,导致后续步骤频繁迷失。腾讯云数据库的 TencentDB Agent Memory 把短期记忆压缩拆成两部分组合:「短期记忆压缩 = 上下文卸载 + Mermaid 无限画布」。前者把原始信息外置、只留摘要与路径,后者用图描述语言保留任务结构。在超长 Session 实验中,Token 消耗显著下降:WideSearch 节省 61.38%、SWE-bench 节省 33.09%、AA-LCR 节省 30.98%;任务完成率不降反升,WideSearch 通过率从 33% 提升到 50%(相对 +51.52%),SWE-bench 从 58.4% 提升到 64.2%(相对 +9.93%),AA-LCR 从 44.0% 提升到 47.5%(绝对 +3.5pp)。这些数据来自多任务连续 Session,更能反映生产级长时间运行的真实压力。

// Mermaid 无限画布:给 Agent 一张任务地图

长任务最怕的是"线性历史堆积"——Agent 每走一步就把过去全量塞进上下文,走到第十步时它已经分不清自己在地图的哪个位置、依赖关系是什么。腾讯云数据库的 Mermaid 无限画布用通用图描述语言(Mermaid Flowchart)把任务执行过程画成可导航画布,纯文本可渲染,主流大模型天然具备读写能力。它并非"每一次工具调用的流水账",而是"任务正在如何展开",让 Agent 一眼看出哪些步骤已完成、哪些节点在进行、哪些信息汇聚成当前结论。

画布可折叠:任务完成或中断时,从展开态变成只保留任务轮廓的压缩态,折叠不是丢弃,而是保留足够结构使未来可重新理解。Agent 使用时呈现层次化注意力:第一层鸟瞰(哪些任务完成、哪些在进行),第二层聚焦(打开对应画布看结构),第三层下钻(追溯到摘要或原始材料)。仅用上下文卸载会把资料收进档案柜却无目录;仅用画布则细节可能被压太狠——组合方案才能"细节可恢复,结构不丢失"。

// 上下文卸载:把原始材料请出窗口,留一张索引纸条

另一个典型痛点是"原始返回太长占满窗口":一次搜索可能返回上万字,全量进上下文后,真正重要的推理信号反而被噪声淹没。腾讯云数据库的上下文卸载(Context Offloading)做法是:每次工具调用结束后,完整结果写入外部文件(refs/*.md),上下文里只保留一行摘要和索引路径。

原始信息按四层递进结构存储,底层保留证据、高层保留结构,Agent 日常只接触轻量信息,需要时逐层下钻找回:

层级 内容 存储形态 日常是否接触
Level 0 完整工具返回原文 refs/*.md 否,按需下钻
Level 1 工具调用级摘要 offload.jsonl 否,通过 node_id 回溯
Level 2 Mermaid 画布节点 *.mmd 是,轻量结构
Level 3 任务级索引(目标+状态) 上下文中 是,常驻

任何一层压缩都可沿索引链路 100% 找回。消融实验佐证了叠加画布的独立贡献:仅卸载时 Token 节省约 15%,叠加 Mermaid 画布后提升至 31%–33%,且 Token 下降的同时成功率上升,因为上下文噪声减少后模型注意力更集中。

一键集成与零依赖部署

腾讯云数据库这套方案对落地非常友好,已适配主流 Agent 框架,支持一键集成。安装命令示例(以 OpenClaw 插件形式):

openclaw plugins install @tencentdb-agent-memory/memory-tencentdb

默认采用本地存储,卸载产物是人类可读的 Markdown 与 JSONL,无需额外依赖即可跑通。进阶场景下,可接入外部向量库做混合检索,把画布节点与原文摘要嵌入后再召回,进一步放大长任务的可追溯性。

让上下文成为有序工作台

上下文不该是越堆越高的桌子,而该是有序的工作台。腾讯云数据库把"细节可恢复、结构不丢失"做成了开源现实。欢迎去项目主页 https://github.com/Tencent/TencentDB-Agent-Memory 点个 Star,一起把长任务 Agent 的记忆问题彻底解决。

← 返回更多文章