跳到主要内容

记忆系统

本章 15 道题 · 完整目录

记忆的适用边界

文中的容量和时延数字应当作为示例理解。短期上下文有窗口限制,跨会话记忆依赖存储、身份隔离、检索与失效策略。LangGraph 将线程状态的 checkpointer 与跨线程信息的 store 分开,参见 官方持久化文档。

Q61:Agent 的 Memory 系统有哪些类型?各自有什么特点和适用场景?​

详解​

五大记忆类型:

记忆类型特点生命周期典型实现适用场景
短期记忆(STM)当前会话的上下文、状态会话结束即失效上下文窗口、Redis多轮对话、任务执行中
长期记忆(LTM)用户偏好、历史事实永久存储向量库(Milvus/Pinecone)个性化、跨会话记忆
工作记忆(WM)当前任务相关的临时信息任务结束即失效LLM 上下文复杂任务执行
情景记忆(Episodic)过往完整事件/案例长期向量库+元数据经验复用、案例推理
语义记忆(Semantic)通用知识、概念永久知识图谱/文档库知识问答

答题要点:不要只列类型,要说出每种类型的生命周期和实现方式,并给出各自的应用场景。

Q62:如何设计一个可扩展的 Agent 长期记忆系统?​

详解​

完整架构设计:

记忆写入层
│
▼
┌───────────────────────────────┐
│ 记忆管理层 │
│ - 重要性评分(决定记忆优先级)│
│ - 自动摘要(压缩细节) │
│ - 去重与合并(避免冗余) │
└───────────────────────────────┘
│
▼
┌───────────────────────────────┐
│ 记忆存储层(分层) │
│ L1:最近/高频 → Redis/内存 │
│ L2:近期 → 向量库(热区) │
│ L3:长期 → 向量库+对象存储 │
└───────────────────────────────┘
│
▼
┌───────────────────────────────┐
│ 记忆检索层 │
│ - 向量语义检索(Top-K) │
│ - 元数据过滤(时间/类型/来源)│
│ - 相关度重排 │
└───────────────────────────────┘

分层存储设计:

层级存储介质数据检索延迟容量
L1 热数据Redis/内存最近会话完整对话<1ms小
L2 温数据向量库近期摘要+关键事实10-50ms中
L3 冷数据向量库+对象存储历史归档100ms+大

答题要点:展示完整架构图(写入-管理-存储-检索),说明分层存储设计,给出重要性评分和自动摘要的机制。

Q63:向量检索如何支持大规模 Agent 记忆(百万级向量)?​

详解​

性能优化五板斧:

  1. 索引选择:HNSW(高召回、内存型)vs IVF(高吞吐、磁盘型)vs PQ(压缩型)。百万级规模推荐 IVF-PQ(4 倍压缩,10 倍加速)。
  2. 分段存储(Sharding):按用户 ID 哈希分段,每段独立索引,只搜索用户所在段。
  3. 缓存:热点记忆缓存到 Redis,命中率 90%+。
  4. 降维:768 维降到 128 维(用 PCA 或训练降维),减少内存和计算。
  5. 批量写入:异步批量写向量库,避免单条写入阻塞。

答题要点:说出至少 4 个优化手段,重点说明 Sharding 和量化(PQ)的原理。

Q64:如何防止 Agent 记忆“污染”(记住错误信息)?​

详解​

三层防护机制:

层级防护措施
写入前过滤区分事实与推测(“用户说”)与(“我推断”)、对不确定信息标记置信度
写入时校验与已有记忆冲突时触发确认,敏感信息(密码/信用卡)自动过滤不存储
使用后反馈用户纠正时立即更新,定期人工审核重要记忆

答题要点:说清楚记忆污染会带来的后果(错误决策、误导用户),展示三层防护机制。

Q65:Agent 的 Context(上下文)管理有哪些策略?​

详解​

五大策略:

策略描述适用场景
滑动窗口保留最近 N 轮对话简单对话
摘要压缩将旧对话压缩为摘要长对话
关键信息提取只保留结构化关键事实事实密集场景
层级缓存热/温/冷分级保留生产系统
动态裁剪根据任务相关性裁剪工具调用密集场景

答题要点:说出至少 3 种策略,说明各自的适用场景和权衡(信息保留 vs 长度控制)。

Q66:如何设计 Agent 的 Multi-turn(多轮)对话记忆?如何处理上下文切换?​

详解​

设计要点:

  1. 会话级记忆:同一会话保留完整上下文(STM)。
  2. 话题识别:LLM 判断当前话题,话题切换时更新“当前话题标记”。
  3. 指代消解:维护实体表(“它”指代上一话题中的“iPhone 16 Pro”)。
  4. 长期偏好抽取:多轮中识别用户稳定偏好写入 LTM。
  5. 记忆检索融合:每轮开始时检索相关长期记忆注入上下文。

上下文切换示例:

用户:帮我查一下今天北京的天气
Agent:北京今天晴,25°C
用户:那上海呢?(指代“天气”→ 话题切换到上海)
Agent:上海今天多云,22°C
用户:对了,我上周订的那个酒店还能退吗?(话题切换:天气→酒店)
Agent:需要先确认您说的酒店,请问是哪家?

答题要点:展示多轮记忆的完整流程,说明指代消解和话题切换的处理方式。

Q67:Agent 的记忆和知识库(Knowledge Base)有什么区别?如何配合?​

详解​

核心区别:

维度记忆(Memory)知识库(KB)
内容来源与用户的交互中动态产生预先整理好的静态知识
时效性动态更新(每次交互后)静态或低频更新
个性化程度高度个性化(用户专属)通用(所有用户共享)
存储向量库(个人数据)向量库/文档库(企业数据)

配合方式:Agent 回答时先检索个人记忆(用户偏好),再检索企业知识库(业务规则),最后用 LLM 综合两者生成答案。

答题要点:用对比表格说清楚区别,说明二者在回答时如何协同配合。

Q68:Agent 的短期记忆溢出(Context Overflow)时应该怎么办?​

详解​

四大处理策略:

策略描述保留信息比例
最早对话摘要化将最早的 N 轮压缩为摘要保留核心事实,丢失细节
关键信息提取只保留结构化事实(实体、时间、地点)保留关键,丢失语气
工具调用记录精简只保留工具名和返回摘要保留执行轨迹
分层淘汰按重要程度分级,低优先级的先淘汰可调

答题要点:说明 Context Overflow 的典型表现(模型开始遗忘早期指令),展示摘要化策略代码。

Q69:RAG 和多轮对话记忆如何结合?​

详解​

结合架构:

用户输入
│
├── ① 对话记忆检索(STM + LTM 相关历史)
│
├── ② 知识库检索(RAG 根据当前问题检索文档)
│
├── ③ 记忆+知识 拼接成上下文
│
└── ④ LLM 生成回答(综合记忆和知识)

关键点:对话记忆检索注重“用户之前问过什么”,知识库检索注重“当前问题对应的答案”。二者需用不同权重或分两段注入上下文,避免互相干扰。同时需要防止记忆中的错误信息污染 RAG 的正确答案。

答题要点:展示记忆+知识库结合的完整流程,说明二者的检索目的差异。

Q70:如何设计 Agent 的“遗忘”机制(什么信息该删除/过期)?​

详解​

四种遗忘策略:

  1. TTL(Time-to-Live):临时信息(临时验证码、一次性任务状态)设 TTL,到期自动删除。
  2. 重要性阈值:低于重要性评分(如 <0.3)的记忆定期清理。
  3. 用户主动删除:提供“清除历史记忆”功能,尊重用户隐私。
  4. 冲突淘汰:新记忆与旧记忆冲突时,保留新记忆(最新偏好覆盖)。

答题要点:说清楚为什么需要遗忘机制(隐私、存储、准确性),展示四种策略。

Q71:什么是 Episodic Memory(情景记忆)?Agent 如何利用它?​

详解​

情景记忆定义:存储过往完整事件的记忆——发生了什么、当时的情境、结果如何。

与语义记忆的区别:语义记忆是抽象知识(“用户喜欢简洁回答”),情景记忆是具体事件(“上次用户问年终奖时语气不满”)。

Agent 利用方式:

  • 相似情境匹配:遇到相似问题时,检索过往相似事件的解决方案。
  • 结果学习:过往成功/失败案例指导当前决策。
  • 个性化:记住用户处理过的事务。

答题要点:用对比示例说明情景记忆 vs 语义记忆,展示利用流程。

Q72:Agent 记忆的一致性和冲突处理如何设计?​

详解​

三种冲突场景及处理:

冲突场景示例处理策略
新旧冲突用户以前喜欢 A,现在说喜欢 B新信息覆盖旧信息,并触发“偏好变更确认”
来源冲突记忆说“X 城市”,KB 说“Y 城市”设置来源优先级(KB > 用户记忆 > 推测)
时间冲突同一信息不同时间版本带时间戳,最新版本优先

答题要点:展示冲突处理流程图,说明优先级规则(明确信息 > 用户最近表达 > 长期偏好 > 推测)。

Q73:Agent 如何将短期会话中的信息转化为长期记忆?​

详解​

转化流程(异步 Worker):

多轮对话结束
│
▼
对话归档到 STM
│
▼
异步 Worker 分析对话:
├── 提取用户偏好(“用户喜欢简洁回答”)
├── 提取事实(“用户在字节跳动工作”)
├── 提取承诺/待办(“下周提交报告”)
│
▼
重要性评分(1-10)→ 达到阈值写入 LTM

答题要点:展示异步转化流程,说明提取的信息类型和重要性评分机制。

Q74:Agent 的长期记忆检索时,如何解决“相关性 vs 时效性”的权衡?​

详解​

混合检索排序:

综合得分 = 0.6 × 语义相关度 + 0.3 × 时效性得分 + 0.1 × 来源可信度

时效性得分计算:新鲜度衰减函数 score = 1 / (1 + 0.01 × 天数)。7 天内 → 0.93,30 天 → 0.77,365 天 → 0.21。

答题要点:展示综合评分公式,说清楚各维度的权重分配逻辑。

Q75:请设计一个能记住用户偏好的 Agent 记忆系统,要求跨会话持久化​

详解​

完整设计:

【写入路径】
用户偏好 → 偏好抽取(LLM 识别)→ 重要性评分 → 写入 LTM(带时间戳+置信度)

【读取路径】
新会话开始 → 检索用户偏好 → 注入 System Prompt → 生成个性化回答

【更新路径】
用户纠正/变更 → 触发偏好更新 → 覆盖旧偏好(保留审计记录)

【存储设计】
用户ID → 偏好向量(语义) + 偏好结构化表(MySQL:category, value, confidence)

答题要点:展示写入/读取/更新三条路径的完整设计,强调个性化与审计的平衡。