记忆系统
本章 15 道题 · 完整目录
文中的容量和时延数字应当作为示例理解。短期上下文有窗口限制,跨会话记忆依赖存储、身份隔离、检索与失效策略。LangGraph 将线程状态的 checkpointer 与跨线程信息的 store 分开,参见 官方持久化文档。
Q61:Agent 的 Memory 系统有哪些类型?各自有什么特点和适用场景?
详解
五大记忆类型:
| 记忆类型 | 特点 | 生命周期 | 典型实现 | 适用场景 |
|---|---|---|---|---|
| 短期记忆(STM) | 当前会话的上下文、状态 | 会话结束即失效 | 上下文窗口、Redis | 多轮对话、任务执行中 |
| 长期记忆(LTM) | 用户偏好、历史事实 | 永久存储 | 向量库(Milvus/Pinecone) | 个性化、跨会话记忆 |
| 工作记忆(WM) | 当前任务相关的临时信息 | 任务结束即失效 | LLM 上下文 | 复杂任务执行 |
| 情景记忆(Episodic) | 过往完整事件/案例 | 长期 | 向量库+元数据 | 经验复用、案例推理 |
| 语义记忆(Semantic) | 通用知识、概念 | 永久 | 知识图谱/文档库 | 知识问答 |
答题要点:不要只列类型,要说出每种类型的生命周期和实现方式,并给出各自的应用场景。
Q62:如何设计一个可扩展的 Agent 长期记忆系统?
详解
完整架构设计:
记忆写入层
│
▼
┌───────────────────────────────┐
│ 记忆管理层 │
│ - 重要性评分(决定记忆优先级)│
│ - 自动摘要(压缩细节) │
│ - 去重与合并(避免冗余) │
└───────────────────────────────┘
│
▼
┌───────────────────────────────┐
│ 记忆存储层(分层) │
│ L1:最近/高频 → Redis/内存 │
│ L2:近期 → 向量库(热区) │
│ L3:长期 → 向量库+对象存储 │
└───────────────────────────────┘
│
▼
┌───────────────────────────────┐
│ 记忆检索层 │
│ - 向量语义检索(Top-K) │
│ - 元数据过滤(时间/类型/来源)│
│ - 相关度重排 │
└───────────────────────────────┘
分层存储设计:
| 层级 | 存储介质 | 数据 | 检索延迟 | 容量 |
|---|---|---|---|---|
| L1 热数据 | Redis/内存 | 最近会话完整对话 | <1ms | 小 |
| L2 温数据 | 向量库 | 近期摘要+关键事实 | 10-50ms | 中 |
| L3 冷数据 | 向量库+对象存储 | 历史归档 | 100ms+ | 大 |
答题要点:展示完整架构图(写入-管理-存储-检索),说明分层存储设计,给出重要性评分和自动摘要的机制。
Q63:向量检索如何支持大规模 Agent 记忆(百万级向量)?
详解
性能优化五板斧:
- 索引选择:HNSW(高召回、内存型)vs IVF(高吞吐、磁盘型)vs PQ(压缩型)。百万级规模推荐 IVF-PQ(4 倍压缩,10 倍加速)。
- 分段存储(Sharding):按用户 ID 哈希分段,每段独立索引,只搜索用户所在段。
- 缓存:热点记忆缓存到 Redis,命中率 90%+。
- 降维:768 维降到 128 维(用 PCA 或训练降维),减少内存和计算。
- 批量写入:异步批量写向量库,避免单条写入阻塞。
答题要点:说出至少 4 个优化手段,重点说明 Sharding 和量化(PQ)的原理。
Q64:如何防止 Agent 记忆“污染”(记住错误信息)?
详解
三层防护机制:
| 层级 | 防护措施 |
|---|---|
| 写入前过滤 | 区分事实与推测(“用户说”)与(“我推断”)、对不确定信息标记置信度 |
| 写入时校验 | 与已有记忆冲突时触发确认,敏感信息(密码/信用卡)自动过滤不存储 |
| 使用后反馈 | 用户纠正时立即更新,定期人工审核重要记忆 |
答题要点:说清楚记忆污染会带来的后果(错误决策、误导用户),展示三层防护机制。
Q65:Agent 的 Context(上下文)管理有哪些策略?
详解
五大策略:
| 策略 | 描述 | 适用场景 |
|---|---|---|
| 滑动窗口 | 保留最近 N 轮对话 | 简单对话 |
| 摘要压缩 | 将旧对话压缩为摘要 | 长对话 |
| 关键信息提取 | 只保留结构化关键事实 | 事实密集场景 |
| 层级缓存 | 热/温/冷分级保留 | 生产系统 |
| 动态裁剪 | 根据任务相关性裁剪 | 工具调用密集场景 |
答题要点:说出至少 3 种策略,说明各自的适用场景和权衡(信息保留 vs 长度控制)。
Q66:如何设计 Agent 的 Multi-turn(多轮)对话记忆?如何处理上下文切换?
详解
设计要点:
- 会话级记忆:同一会话保留完整上下文(STM)。
- 话题识别:LLM 判断当前话题,话题切换时更新“当前话题标记”。
- 指代消解:维护实体表(“它”指代上一话题中的“iPhone 16 Pro”)。
- 长期偏好抽取:多轮中识别用户稳定偏好写入 LTM。
- 记忆检索融合:每轮开始时检索相关长期记忆注入上下文。
上下文切换示例:
用户:帮我查一下今天北京的天气
Agent:北京今天晴,25°C
用户:那上海呢?(指代“天气”→ 话题切换到上海)
Agent:上海今天多云,22°C
用户:对了,我上周订的那个酒店还能退吗?(话题切换:天气→酒店)
Agent:需要先确认您说的酒店,请问是哪家?
答题要点:展示多轮记忆的完整流程,说明指代消解和话题切换的处理方式。
Q67:Agent 的记忆和知识库(Knowledge Base)有什么区别?如何配合?
详解
核心区别:
| 维度 | 记忆(Memory) | 知识库(KB) |
|---|---|---|
| 内容来源 | 与用户的交互中动态产生 | 预先整理好的静态知识 |
| 时效性 | 动态更新(每次交互后) | 静态或低频更新 |
| 个性化程度 | 高度个性化(用户专属) | 通用(所有用户共享) |
| 存储 | 向量库(个人数据) | 向量库/文档库(企业数据) |
配合方式:Agent 回答时先检索个人记忆(用户偏好),再检索企业知识库(业务规则),最后用 LLM 综合两者生成答案。
答题要点:用对比表格说清楚区别,说明二者在回答时如何协同配合。
Q68:Agent 的短期记忆溢出(Context Overflow)时应该怎么办?
详解
四大处理策略:
| 策略 | 描述 | 保留信息比例 |
|---|---|---|
| 最早对话摘要化 | 将最早的 N 轮压缩为摘要 | 保留核心事实,丢失细节 |
| 关键信息提取 | 只保留结构化事实(实体、时间、地点) | 保留关键,丢失语气 |
| 工具调用记录精简 | 只保留工具名和返回摘要 | 保留执行轨迹 |
| 分层淘汰 | 按重要程度分级,低优先级的先淘汰 | 可调 |
答题要点:说明 Context Overflow 的典型表现(模型开始遗忘早期指令),展示摘要化策略代码。
Q69:RAG 和多轮对话记忆如何结合?
详解
结合架构:
用户输入
│
├── ① 对话记忆检索(STM + LTM 相关历史)
│
├── ② 知识库检索(RAG 根据当前问题检索文档)
│
├── ③ 记忆+知识 拼接成上下文
│
└── ④ LLM 生成回答(综合记忆和知识)
关键点:对话记忆检索注重“用户之前问过什么”,知识库检索注重“当前问题对应的答案”。二者需用不同权重或分两段注入上下文,避免互相干扰。同时需要防止记忆中的错误信息污染 RAG 的正确答案。
答题要点:展示记忆+知识库结合的完整流程,说明二者的检索目的差异。
Q70:如何设计 Agent 的“遗忘”机制(什么信息该删除/过期)?
详解
四种遗忘策略:
- TTL(Time-to-Live):临时信息(临时验证码、一次性任务状态)设 TTL,到期自动删除。
- 重要性阈值:低于重要性评分(如 <0.3)的记忆定期清理。
- 用户主动删除:提供“清除历史记忆”功能,尊重用户隐私。
- 冲突淘汰:新记忆与旧记忆冲突时,保留新记忆(最新偏好覆盖)。
答题要点:说清楚为什么需要遗忘机制(隐私、存储、准确性),展示四种策略。
Q71:什么是 Episodic Memory(情景记忆)?Agent 如何利用它?
详解
情景记忆定义:存储过往完整事件的记忆——发生了什么、当时的情境、结果如何。
与语义记忆的区别:语义记忆是抽象知识(“用户喜欢简洁回答”),情景记忆是具体事件(“上次用户问年终奖时语气不满”)。
Agent 利用方式:
- 相似情境匹配:遇到相似问题时,检索过往相似事件的解决方案。
- 结果学习:过往成功/失败案例指导当前决策。
- 个性化:记住用户处理过的事务。
答题要点:用对比示例说明情景记忆 vs 语义记忆,展示利用流程。
Q72:Agent 记忆的一致性和冲突处理如何设计?
详解
三种冲突场景及处理:
| 冲突场景 | 示例 | 处理策略 |
|---|---|---|
| 新旧冲突 | 用户以前喜欢 A,现在说喜欢 B | 新信息覆盖旧信息,并触发“偏好变更确认” |
| 来源冲突 | 记忆说“X 城市”,KB 说“Y 城市” | 设置来源优先级(KB > 用户记忆 > 推测) |
| 时间冲突 | 同一信息不同时间版本 | 带时间戳,最新版本优先 |
答题要点:展示冲突处理流程图,说明优先级规则(明确信息 > 用户最近表达 > 长期偏好 > 推测)。
Q73:Agent 如何将短期会话中的信息转化为长期记忆?
详解
转化流程(异步 Worker):
多轮对话结束
│
▼
对话归档到 STM
│
▼
异步 Worker 分析对话:
├── 提取用户偏好(“用户喜欢简洁回答”)
├── 提取事实(“用户在字节跳动工作”)
├── 提取承诺/待办(“下周提交报告”)
│
▼
重要性评分(1-10)→ 达到阈值写入 LTM
答题要点:展示异步转化流程,说明提取的信息类型和重要性评分机制。
Q74:Agent 的长期记忆检索时,如何解决“相关性 vs 时效性”的权衡?
详解
混合检索排序:
综合得分 = 0.6 × 语义相关度 + 0.3 × 时效性得分 + 0.1 × 来源可信度
时效性得分计算:新鲜度衰减函数 score = 1 / (1 + 0.01 × 天数)。7 天内 → 0.93,30 天 → 0.77,365 天 → 0.21。
答题要点:展示综合评分公式,说清楚各维度的权重分配逻辑。
Q75:请设计一个能记住用户偏好的 Agent 记忆系统,要求跨会话持久化
详解
完整设计:
【写入路径】
用户偏好 → 偏好抽取(LLM 识别)→ 重要性评分 → 写入 LTM(带时间戳+置信度)
【读取路径】
新会话开始 → 检索用户偏好 → 注入 System Prompt → 生成个性化回答
【更新路径】
用户纠正/变更 → 触发偏好更新 → 覆盖旧偏好(保留审计记录)
【存储设计】
用户ID → 偏好向量(语义) + 偏好结构化表(MySQL:category, value, confidence)
答题要点:展示写入/读取/更新三条路径的完整设计,强调个性化与审计的平衡。