AI Agent Memory(智能体记忆)是一种信息存储与调用机制,用于保存 Agent 在历史交互和任务执行过程中获得的信息,并在后续任务中按需调用。
例如,一个负责客户跟进的 AI Agent,可能需要记住客户此前咨询过哪些产品、已经确认的需求、尚未解决的问题,以及下一次应该跟进的事项。即使客户隔了几天再次联系,Agent 也可以根据历史记录继续处理。
这些信息通常存储在模型之外,由应用程序管理。Agent 执行任务时,系统从数据库、历史记录或知识库中检索相关内容,再将其提供给大语言模型。
不过,保存聊天记录并不等于实现了 Agent Memory。一套可用的记忆系统还需要决定哪些信息应该保存、如何找到相关记录、怎样处理更新,以及什么时候不再使用旧信息。
对于需要长期运行的 AI 助手、客服 Agent、Coding Agent 和语音 Agent,这些能力会直接影响任务能否连续执行。
一. AI Agent 为什么需要 Memory?
大语言模型可以根据当前输入完成推理和内容生成,但它不会自动获得应用程序过去发生的所有事情。
如果开发者没有保存和重新提供历史信息,一次新的模型调用通常只能依据本次请求携带的上下文作答。
对于简单问答,这种方式已经足够。但在持续运行的业务中,很多任务需要依赖之前的执行结果。
以销售 Agent 为例,客户第一次咨询时提出了三个要求:需要支持海外用户、希望接入现有 CRM 系统、预算暂时控制在一定范围内。
销售 Agent 根据这些要求推荐了两个方案。客户没有立即决定,而是约定下周继续沟通。
一周后,客户提出:“上次第二个方案,能不能再调整一下价格?”
系统要正确处理这句话,至少需要知道此前讨论过哪些方案、第二个方案是什么、客户有哪些已确认的要求。
如果只把客户当前这句话发送给 LLM,模型无法可靠地还原这些信息。
因此,销售 Agent 需要在第一次沟通结束后保存相关业务信息,并在客户再次联系时检索出来。
这种需求同样存在于其他长期任务中:
- Research Agent:保存已查阅的资料、来源、研究结论和待验证的问题,避免重复检索。
- Coding Agent:保存项目结构、技术约束、历史修改和失败的解决方案,便于继续开发。
- 客服 Agent:查询客户历史工单、处理进度和已采取的措施,支持跨会话服务。
- 个人助理 Agent:在用户授权的范围内保存长期偏好、日程安排和持续进行的任务。
这些场景有一个共同要求:新的任务需要使用过去的信息,而这些信息并不一定存在于当前会话中。
二. Agent Memory 和 Context 有什么区别?
Context(上下文)和 Memory 经常一起出现,但它们处于不同的技术层面。
Context 是模型在某次调用中能够读取的信息;Memory 是应用程序为后续调用保留和管理的信息。
例如,在一次客服对话中:
用户:“帮我查询一下订单。”
AI:“请提供订单号。”
用户:“A123456。”
AI 接下来能够使用订单号,是因为前面的对话仍然保留在当前上下文中。
如果用户一周后重新联系客服,只说“上次那个订单处理好了吗”,系统就需要通过用户身份、历史工单或其他可靠线索找到对应记录。
这里使用的历史记录可以由 Memory 系统提供,也可以直接来自订单和工单数据库。
需要注意,业务数据库与 Agent Memory 不完全相同。订单状态、付款金额等权威业务数据,应以订单系统为准。Memory 可以帮助 Agent 找到相关订单或理解历史沟通内容,但不能代替订单系统提供最新事实。
1. Context Window 决定一次能处理多少信息
大语言模型通常有上下文窗口限制,限制以 Token 数量计算。
开发者可以在一次请求中提供系统指令、用户消息、历史对话、检索结果和工具调用信息。模型在这些输入的基础上生成回复。
如果会话持续很长时间,历史内容可能超过窗口限制。应用通常需要裁剪早期消息、压缩历史,或者把部分内容转移到外部存储中。
2. Memory 可以跨会话保存和调用
Memory 的保存周期可以长于单次会话。
例如,用户上个月确认的报告格式,可以在本月的新任务中继续使用;一个 Coding Agent 上周记录的部署问题,也可以在本周再次执行部署时被检索出来。
不过,Memory 并不会自动参与模型推理。
应用程序需要根据当前任务检索相关记忆,将内容整理后加入模型输入。只有进入当前上下文的信息,才能直接影响这次模型生成。
因此,Context 和 Memory 需要配合使用:前者承载当前任务的输入,后者负责历史信息的保存与调用。
三. 模型已经支持长上下文,为什么还需要 Memory?
长上下文模型能够处理大量文本,但对于长期运行的 Agent,把全部历史内容放进每次请求通常并不合适。
假设一个 Research Agent 已经运行三个月,保存了几百篇资料、数十次讨论和多轮报告修改。
用户现在要求:“按照上周确认的方向,把第二部分补充完整。”
完成这项任务,Agent 主要需要上周确认的研究方向、当前报告版本、第二部分已有内容,以及尚未补充的资料。
三个月内所有聊天记录和资料,不一定都与本次修改有关。
1. 历史内容过多会增加调用成本
大多数模型 API 按输入和输出 Token 计费。如果每次请求都附带大量历史信息,输入成本会持续增加。
即使模型支持很大的上下文窗口,重复发送相同内容仍然占用处理资源。
对于每分钟需要处理多次请求的语音 Agent,或者需要连续调用模型执行任务的工作流 Agent,额外的上下文成本更值得关注。
2. 信息过多会增加检索和推理难度
上下文窗口的容量并不直接代表模型能够同样准确地利用其中每一条信息。
如果输入包含大量不相关记录,模型可能忽略真正重要的细节,或者混淆不同时间、不同项目中的信息。
例如,同一个客户先后修改过三次预算。如果三份历史记录同时进入上下文,但没有标明各自的生效时间,模型就可能采用旧预算。
Memory 系统可以在检索阶段进行筛选,优先返回当前有效且与任务相关的信息。
3. 长期任务需要独立管理状态
很多 Agent 需要保存的不只是文本,还有任务状态。
例如,一个数据分析任务正在等待外部 API 返回结果,或者一个报告任务已经完成资料收集、尚未进行事实核验。
这些状态更适合保存在业务数据库或工作流系统中,而不是只依赖模型上下文。
当 Agent 重新运行时,应用可以读取任务状态,判断下一步应该执行哪个操作。
长上下文主要解决模型一次能够读取多少信息的问题。对于跨会话、跨任务的持续工作,仍需要外部存储、检索与状态管理机制。
四. Agent Memory 通常保存哪些信息?
不同 Agent 对记忆的需求并不相同。
个人助理可能主要保存用户明确允许保留的偏好,Coding Agent 更关注项目约束和历史执行结果,客服 Agent 则需要查询客户的业务记录。
在技术设计中,常见的 Agent Memory 可以按保存内容和用途分成以下几类。
1. 语义记忆(Semantic Memory)
语义记忆保存相对稳定的事实、规则和知识。
例如:
- 用户习惯使用中文查看技术报告。
- 某个项目的后端采用 Python,数据库使用 PostgreSQL。
- 企业已经确认某项业务流程的审批规则。
这类信息可以通过结构化字段、文档或数据库记录保存。
对于用户偏好,应允许用户查看、更正和取消保存。对于企业规则,则需要明确来源和版本,避免历史规则覆盖现行要求。
2. 情景记忆(Episodic Memory)
情景记忆保存过去发生的具体事件或任务经历。
例如:
“10 月 12 日,Agent 为客户生成了方案 V2;客户要求调整海外部署部分,并约定下一次会议继续讨论成本。”
这条记录包含事件时间、参与对象、执行内容和后续事项。
当客户再次提到方案修改时,Agent 可以通过这段记录找回此前的沟通背景。
情景记忆通常需要保留时间、来源以及相关业务对象的标识,避免不同客户或不同项目的记录被混在一起。
3. 程序性记忆(Procedural Memory)
程序性记忆用于保存已经形成的操作步骤、工作方法和可复用流程。
例如,一个 Coding Agent 在某个项目中反复执行部署任务。经过多次操作后,系统可以保存部署步骤、环境检查项和曾经出现过的兼容性问题。
下次执行相同任务时,Agent 可以参考这份流程,减少重复探索。
在工程实现中,这类内容可能被保存为配置文件、操作手册、脚本或经过审核的 Agent Skill,并不一定存储在向量数据库中。
4. 工作记忆(Working Memory)与任务状态
工作记忆通常指 Agent 当前执行任务所需的临时信息,例如正在处理的问题、中间计算结果、待调用的工具以及下一步操作。
它与长期记忆的保存周期不同。
对于长时间运行的任务,应用可以将部分工作状态持久化为 Checkpoint。发生中断后,Agent 读取这些状态并恢复执行。
严格来说,Checkpoint 不一定属于狭义的长期语义记忆,但在 Agent 系统设计中,它与 Memory 一样承担着任务连续性的保障作用。
五. Agent Memory 是怎么实现的?
一个基本的 Agent Memory 系统通常包含写入、存储、检索、使用和更新几个环节。
开发者可以根据数据类型选择关系型数据库、文档数据库、向量数据库或其他存储方式,不需要把所有信息都放进同一种数据库。
1. 从对话和任务中提取需要保存的信息
Agent 完成一次会话后,系统可以分析其中有哪些信息值得保留。
例如,用户说:
“以后生成周报,先写结论,再列核心数据。”
这是一个可能长期有效的格式偏好。经过适当的权限确认后,可以保存为结构化记录:
{
"type": "user_preference",
"key": "weekly_report_format",
"value": "先写结论,再列核心数据",
"source": "user_instruction",
"updated_at": "2026-11-10"
}
这是简化的应用数据示例,并非某个 Memory 框架规定的统一格式。
实际系统还需要考虑用户标识、信息的有效期、访问权限和删除要求。
如果采用 LLM 自动提取记忆,还应设置规则,避免把模型推测的用户偏好当成用户明确表达过的事实。
2. 根据数据类型选择存储方式
结构化信息适合保存在关系型数据库中,例如用户偏好、任务状态、客户编号和历史决策。
较长的会议纪要、研究摘要和技术文档,可以保存在文档存储系统中。
如果需要根据自然语言查找语义相近的信息,可以将文本转换为 Embedding(向量表示),建立向量索引。
例如,用户问“上次数据库连接数的问题怎么解决的”,向量检索可以帮助定位一份标题叫“生产环境连接池故障复盘”的历史记录,即使两者使用的措辞并不完全相同。
但向量检索不适合替代所有精确查询。
订单号、客户 ID、项目版本和时间范围等信息,通常需要结合数据库过滤条件或关键词检索,才能减少误匹配。
3. 在执行任务前检索相关记忆
当 Agent 接到新的任务,应用可以根据用户身份、项目、当前问题和任务类型检索历史记录。
例如,用户要求继续修改一份报告,检索条件可以包括:
- 当前用户及其有权访问的项目。
- 报告名称和最近修改版本。
- 上次确认的修改要求。
- 尚未完成的任务项。
系统随后将相关内容整理成简短的上下文,提供给模型。
如果检索结果存在多个可能匹配的项目,Agent 应先进一步确认,而不是自行选一个。
4. 任务结束后更新记忆
Agent 执行任务后,可能产生新的信息。
例如,用户已经取消某项要求,或者报告已经完成审核。
系统需要更新对应记录,避免后续继续采用旧状态。
对于重要业务事实,可以保存历史版本和修改来源,便于追踪信息何时发生变化。
因此,Memory 的实现不仅包含检索,也包含写入规则、版本管理、冲突处理和权限控制。
六. Agent Memory 为什么需要更新和遗忘机制?
长期保存的信息不一定长期有效。
例如,客户原本的项目预算是 10 万元,后来已经调整为 20 万元。如果 Agent 仍然根据旧预算推荐方案,就会影响后续业务判断。
类似的变化还可能发生在岗位信息、合同状态、产品价格和用户偏好上。
1. 更新已经发生变化的信息
对于可能发生变化的事实,记忆系统最好保存更新时间和信息来源。
如果同一条信息出现多个版本,系统需要根据业务规则判断当前应使用哪一版。
用户明确修改过的偏好,可以更新当前记录;合同、订单等业务事实,则应以对应业务系统中的最新权威数据为准。
不能简单按照“哪条记忆最晚写入”来决定事实是否正确。
2. 为临时信息设置有效期
有些信息只在特定任务或时间段内有效。
例如,一次会议的临时安排、已经结束的活动、过期的报价,以及当前任务中使用的中间文件。
这类信息可以设置有效期,在到期后停止检索或转入归档。
具体采用自动删除、失效标记还是保留历史版本,需要结合数据用途和保存要求决定。
3. 允许用户更正和删除记忆
Agent 可能错误理解用户表达,也可能保存用户不希望长期保留的信息。
对于个人化记忆,应用需要考虑用户如何查看、修改和删除相关记录。
如果信息已被复制到摘要、向量索引或其他存储中,也应设计相应的同步更新与删除机制。
尤其需要注意,用户要求删除某项记忆,与模型在下一次回答中不再引用这项信息,是两个不同的技术操作。前者涉及实际的数据管理,不能只通过修改 Prompt 实现。
七. Voice Agent 为什么需要长期 Memory?
Voice Agent(语音智能体)与用户交流时,需要同时处理实时音频、对话上下文和业务信息。
在单次通话中,系统通常通过上下文管理,让 AI 记住用户刚才说过的话,并根据新的语音输入继续回答。
但对于跨天、跨周的持续服务,仅保留当前通话内容还不够。
1. AI 客服:跨通话接续历史工单
用户第一次拨打客服电话,反映购买的设备无法连接网络。AI 客服收集设备型号、故障现象和已尝试的操作,并创建工单。
两天后,用户再次来电:
“上次说的那个设备,现在还没解决。”
系统可以在核验用户身份和权限后,查询此前的工单记录,获得设备型号、处理进度和已执行的排查步骤。
Agent 随后根据最新工单状态继续处理,例如确认是否完成固件更新,或者安排人工工程师接手。
这里需要区分两种信息:历史沟通摘要可以由 Memory 保存,当前工单状态则应实时从客服系统查询。
如果用户询问的是最新维修进度,Agent 不能仅凭几天前保存的摘要回答。
2. AI 口语陪练:保留学习进度和常见错误
AI 口语陪练通常需要多次练习才能体现效果。
假设用户准备参加英文技术面试,连续一周练习项目介绍、系统设计和故障排查等话题。
每次练习后,系统可以保存已完成的题目、需要改进的表达,以及下一次练习目标。
再次进入练习时,Agent 读取学习进度,安排相应内容。
对于发音错误率、流利度等指标,系统还需要明确评测方法和数据来源,不能仅根据模型生成的主观描述认定用户能力发生变化。
3. AI 面试官:维护单场面试状态,也可以支持后续面试流程
在 AI 面试场景中,系统需要记住当前问到哪道题、已经追问了几次、候选人提供了哪些岗位相关信息。
这些内容通常属于当前面试的工作状态,可以保存在会话数据库或工作流 Checkpoint 中。
如果候选人中途断线,重新连接后可以根据保存的状态继续面试。
如果企业安排多轮面试,还可以在适当授权和权限控制下,将前一轮已经确认的岗位相关信息提供给下一轮面试人员参考。
需要注意,面试历史记录和招聘评价涉及个人信息,不应因为技术上能够长期保存,就默认允许无限期保留或在不同招聘场景中重复使用。
4. Memory 与实时语音交互分别负责什么?
在技术架构中,Memory 一般位于业务和模型上下文管理层。
实时语音链路则负责音频采集、传输、ASR、LLM 接入、TTS、轮次判断及打断控制。
例如,开发者可以利用声网对话式 AI 引擎搭建实时语音交互,再通过自定义 LLM 服务或业务工具接口接入外部 Memory 系统。
当用户说“继续上次的练习”时,应用通过业务服务检索历史学习记录,再把相关信息提供给模型。模型根据这些记录生成当前回复,由语音交互系统完成播放。
Memory 的检索和管理需要应用开发者实现,并不等同于 RTC 服务自带跨会话长期记忆。
八. 开发 Agent Memory,需要重点考虑什么?
如果准备为现有 Agent 增加长期记忆,建议先明确业务中有哪些信息需要跨会话使用,再选择存储和检索技术。
例如,客服 Agent 首先需要的是可靠的客户身份关联、工单查询和历史处理摘要;Coding Agent 则可能更依赖项目文件、版本记录和任务 Checkpoint。
不同类型的信息,应采用合适的保存方式。
用户偏好可以使用结构化数据库;历史文档可以采用全文检索或向量检索;任务执行状态可以使用工作流持久化机制;订单和合同等业务数据则应从对应系统获取最新值。
实际开发中,可以重点检查以下问题:
- 写入准确性:保存的是用户明确表达的事实,还是模型推测出来的内容?
- 检索相关性:是否能找到正确的历史项目、客户或任务?
- 信息时效性:旧记录与新记录冲突时,如何判断当前有效信息?
- 权限隔离:不同用户、客户和项目之间是否存在记忆串用的风险?
- 可追溯性:重要信息能否找到原始来源和修改记录?
- 数据管理:能否按要求更新、失效和删除记忆?
- 性能与成本:记忆检索是否增加明显延迟,是否向模型提供了过多无关内容?
Memory 系统可以从简单的结构化记录开始,不必一开始就引入复杂的多级记忆架构。
对于客服、企业知识助手和任务型 Agent,准确找到历史记录、获得最新业务状态,通常比保存大量对话细节更重要。
对于需要长期运行的 Agent,记忆质量最终要通过实际任务验证:是否减少重复沟通,是否能够正确延续未完成任务,以及是否因为过期或错误记忆影响后续操作。
这些指标比单纯统计存储了多少条 Memory,更能反映长期记忆系统的实际效果。