核心设计模式
本章 21 道题 · 完整目录
ReAct、反思、搜索树等模式解释的是不同的任务求解方法。示例中的 Thought 或“自我反思”不能直接当成正确性证据;落地时仍要用工具结果和外部验收条件判断是否完成。框架名称与能力对比不代表固定排名,选型可结合 工作流与多 Agent 的决策表。
Q21:详细解释 ReAct 框架中 Thought、Action、Observation 三者如何循环?
详解
ReAct 的核心是三者构成的推理-行动闭环,每一步都严格遵循“先思考、再行动、看结果、再思考”的顺序。
三者定义与职责:
| 组件 | 职责 | 输出格式 | 示例 |
|---|---|---|---|
| Thought | 基于当前目标分析现状,决定下一步需要什么信息或操作 | 自然语言推理过程 | “用户问的是营收数据,我需要搜索最新的财报” |
| Action | 根据 Thought 的具体决策,选择工具并构造参数执行 | 结构化工具调用(JSON) | {"name": "search", "args": {"query": "阿里巴巴2024财报"}} |
| Observation | 工具执行后返回的客观结果,作为新事实输入 | 工具原始返回值 | “2024财年营收9411.68亿元” |
循环流程详解:
Round 1:
Thought: 用户询问阿里巴巴2024年营收。这是一个事实查询,
我的知识可能不够新,需要搜索最新财报数据。
Action: 调用 search_tool(query="阿里巴巴2024财年营收")
Observation: [搜索返回10条结果,第一条:阿里巴巴2024财年
营收9411.68亿元人民币,同比增长8%]
Round 2:
Thought: 搜索结果提供了明确的营收数据(9411.68亿元),
来源是财报,可信度高。我已经找到了答案。
Action: 调用 finish(answer="阿里巴巴2024财年营收为9411.68亿元")
Observation: [任务完成]
循环终止条件:任务完成(调用 finish 工具)、达到最大迭代次数(通常限制 10-15 轮)、工具调用失败且无法恢复。
代码示例(手写 ReAct 循环):
def react_agent(query, tools, llm, max_iterations=10):
conversation = [
{"role": "system", "content": "你是一个ReAct Agent。每次回复必须包含Thought和Action。"},
{"role": "user", "content": query}
]
for i in range(max_iterations):
response = llm.chat(conversation)
content = response.choices[0].message.content
thought = extract_thought(content)
action = extract_action(content)
if action["name"] == "finish":
return action["args"]["answer"]
tool_result = execute_tool(action, tools)
observation = str(tool_result)
conversation.append({"role": "assistant", "content": content})
conversation.append({"role": "user", "content": f"Observation: {observation}"})
return "达到最大迭代次数,任务未完成"
答题要点:用流程图展示循环,强调 Thought→Action→Observation 的严格顺序和各自的职责。
Q22:Chain-of-Thought(CoT)的几种变体(Zero-shot CoT、Few-shot CoT、Auto-CoT)有什么区别?
详解
三种变体深度对比:
| 维度 | Zero-shot CoT | Few-shot CoT | Auto-CoT |
|---|---|---|---|
| 示例数量 | 0 个示例 | 2-10 个人工编写示例 | K 个自动选择的示例 |
| Prompt 写法 | “Let’s think step by step” | 提供包含推理过程的 Q&A 对 | 自动从数据集中采样生成 |
| 效果 | 中等(简单问题有效) | 最好(人工示例质量…) | 接近 Few-shot(自动成本低) |
| 成本 | 最低 | 高(需人工编写) | 中(需计算资源自动生成) |
- Zero-shot CoT:直接在 Prompt 中加“Let’s think step by step”,无需示例。
- Few-shot CoT:提供包含推理过程的示例引导模型。示例质量是关键——只选正确答案,错误示例会“教坏”模型。
- Auto-CoT:自动从数据集中采样多样问题,用 Zero-shot CoT 生成推理链,筛选正确的作为 Few-shot 示例。
答题要点:说清楚三种变体的示例来源差异(零/人工/自动),说明效果-成本权衡。
Q23:Tree of Thoughts(ToT)中,搜索策略(BFS vs DFS)如何选择?
详解
BFS(广度优先)vs DFS(深度优先):
| 维度 | BFS | DFS |
|---|---|---|
| 搜索方式 | 同一层所有节点评估后,选择最好的几个进入下一层 | 选择一个节点深入到底,回溯后再探索其他 |
| 内存消耗 | 高(需保存同层所有节点) | 低(只需保存当前路径) |
| 找到最优解概率 | 高(全局评估) | 低(可能陷入局部最优) |
| 速度 | 慢(评估节点多) | 快(快速深入) |
| 适用场景 | 需要全局评估(创意写作多方案对比) | 有明确验证条件(代码生成,可运行测试验证) |
混合策略(推荐):先用 BFS 在顶层评估多个方向(beam search),选择最优的 Top-K 方向后,用 DFS 深入每个方向。
答题要点:用树形图展示 BFS/DFS 的搜索过程差异,用具体场景说明选型依据,推荐混合策略。
Q24:Plan-and-Solve 模式与 ReAct 模式的本质区别是什么?
详解
| 维度 | Plan-and-Solve | ReAct |
|---|---|---|
| 规划时机 | 先完整规划,再执行 | 边执行边规划 |
| 计划修改 | 执行中不修改计划 | 每步都可能调整计划 |
| 适用场景 | 确定性强的任务 | 探索性强的任务 |
| 延迟特征 | 规划阶段延迟高,执行快 | 每步都有 LLM 调用延迟 |
| 可预测性 | 高(计划明确) | 低(路径动态变化) |
- Plan-and-Solve 示例:用户说“帮我规划一次去日本的5天旅行”→ LLM 先生成完整计划(Day1→Day2→...)→ 然后按步骤执行。
- ReAct 示例:同一任务下,每执行一步(查机票)都可能改变后续计划(发现机票太贵→改为火车)。
答题要点:用同一任务的不同执行方式展示差异,强调 Plan-and-Solve 的“先规划后执行”vs ReAct 的“边想边做”。
Q25:Self-Ask 模式如何让 Agent 学会自问自答?
详解
Self-Ask 核心思想:让 LLM 在处理复杂问题时,主动提出 follow-up 问题来分解原问题,然后逐一回答这些子问题,最终合成完整答案。
与 CoT 的关键区别:CoT 是连续推理(一步接一步),Self-Ask 是显式地将问题拆分为子问题并逐一回答。每个 follow-up 问题可独立调用外部工具。
示例:
原始问题:“乔布斯创立的公司发布的最新手机是什么?”
Follow-up 1: 乔布斯创立了什么公司?
→ 答案:Apple(苹果公司)
Follow-up 2: Apple 最新发布的手机是什么?
→ 答案:iPhone 16 Pro
最终答案:iPhone 16 Pro
答题要点:强调 Self-Ask 的显式问题分解特征(与 CoT 的隐式分解对比),用多跳问答例子展示效果。
Q26:什么是 Storm(Synthesis of Topic Outline through Retrieval and Multi-perspective Question Asking)?
详解
Storm 核心思想:通过模拟多视角专家的提问和调研,自动生成深度研究报告。它不是简单检索-生成,而是像人类研究员一样,先广泛调研、再深入分析、最后综合写作。
完整工作流程:
- 阶段 1:视角发现 → 模拟不同角色(历史学家、经济学家、技术专家、普通用户)
- 阶段 2:深度提问 → 对每个视角提出深入的问题
- 阶段 3:信息检索 → 对每个问题执行检索,多源交叉验证
- 阶段 4:大纲生成 → 综合所有信息生成结构化大纲
- 阶段 5:报告撰写 → 基于大纲逐段撰写,引用来源标注
Storm vs 标准 RAG 的对比:Storm 调研深度远超标准 RAG(多轮多角度深入调研),支持多视角覆盖避免偏见,输出是完整的深度报告而非简短回答。
答题要点:强调 Storm 的多视角和主动提问特征,用流程图展示五个阶段。
Q27:Corrective RAG(CRAG)的工作原理与完整实现
详解
CRAG 核心思想:在标准 RAG 的「检索 → 生成」流程中,增加一个检索质量评估与自动纠正环节。当检索结果质量不高时,不直接生成答案,而是根据评估结果切换到外部数据源或进行知识精炼。
完整工作流程:
用户查询 → 检索文档(Top-K)→ 【评估检索质量】→ 分支处理
│
┌─────────────────────┼─────────────────────┐
▼ ▼ ▼
质量高 质量低 不确定
│ │ │
▼ ▼ ▼
直接使用检索结果生成答案 切换到外部数据源 对检索结果进行知识精炼
(如 Web Search)
│ │ │
└─────────────────────┼─────────────────────┘
▼
综合所有信息
生成最终答案
三种质量判断与对应处理:
| 判断 | 标准 | 处理策略 |
|---|---|---|
| Correct(相关) | 检索结果充分回答用户问题 | 直接使用检索结果生成答案 |
| Incorrect(不相关) | 检索结果与问题无关或包含大量噪音 | 丢弃当前结果,切换至 Web Search 等外部数据源重新检索 |
| Ambiguous(不确定) | 检索结果部分相关但置信度不足 | 进行知识精炼:分解 → 验证 → 重组 |
评估器(Evaluator)设计: 评估器负责判断检索结果与查询的相关性,有两种实现路径:
- LLM 自评:将查询和检索结果输入 LLM,让其输出 Correct / Incorrect / Ambiguous。实现简单但成本较高。
- 轻量级分类器:使用标注的 Query-Document 相关性数据训练 BERT-based 二分类或三分类模型。
# BERT-based 评估器示例
from transformers import AutoTokenizer, AutoModelForSequenceClassification
evaluator = AutoModelForSequenceClassification.from_pretrained("bert-base-chinese", num_labels=3)
tokenizer = AutoTokenizer.from_pretrained("bert-base-chinese")
def evaluate(query, documents):
inputs = tokenizer(query, documents, return_tensors="pt", truncation=True, padding=True)
logits = evaluator(**inputs).logits
label = logits.argmax(dim=-1).item() # 0=Incorrect, 1=Ambiguous, 2=Correct
return ["Incorrect", "Ambiguous", "Correct"][label]
知识精炼(Knowledge Refinement): 对「不确定」的检索结果,按以下步骤处理:
- 分解:将长文档切分为独立的知识片段(如按句子或段落)。
- 验证:用评估器或 LLM 判断每个片段是否与查询相关。
- 重组:只保留相关片段,拼接成精炼后的上下文。
def knowledge_refinement(query, documents):
fragments = split_into_fragments(documents)
relevant = [f for f in fragments if evaluate(query, f) == "Correct"]
return "\n".join(relevant)
多轮 CRAG: 在复杂查询下,第一次重检索可能仍不理想。可设置最大轮数(如 3 轮),递归执行 CRAG 流程,直到检索质量达标或达到上限。
def crag_loop(query, max_rounds=3):
context = []
for _ in range(max_rounds):
docs = retrieve(query)
quality = evaluate(query, docs)
if quality == "Correct":
context.extend(docs)
break
elif quality == "Incorrect":
docs = web_search(query)
context.extend(docs)
break
else: # Ambiguous
refined = knowledge_refinement(query, docs)
context.append(refined)
return generate(query, context)
答题要点:用流程图展示评估+分支处理机制,说清楚三种质量判断的不同处理策略,并展示评估器训练和知识精炼的代码思路。
Q28:Self-RAG 如何让模型自己判断是否需要检索?
详解
Self-RAG 核心思想:训练模型在生成每个 token 时,输出特殊的 Reflection Token(反射标记),让模型自主决定何时检索、检索结果是否可信、生成内容是否有依据。
四种 Reflection Token:
| Token | 含义 | 触发条件 |
|---|---|---|
| [Retrieve] / [NoRetrieve] | 是否需要检索 | 模型意识到需要外部信息时触发 Retrieve |
| [IsRel] / [IsIrrel] | 检索结果是否相关 | 判断检索内容与问题的相关性 |
| [IsSupported] / [IsUnsupported] | 生成内容是否被检索结果支持 | 验证陈述与来源的一致性 |
| [IsUseful] / [IsUseless] | 生成内容是否有用 | 评估回答质量 |
Self-RAG 的优势:减少不必要检索(模型确定知道答案时直接回答)、提高答案可信度([IsSupported] 标记让用户知道哪些内容有据可查)、检测幻觉([IsUnsupported] 触发重新检索)。
训练方式:收集带有 reflection token 标注的问答数据。在标准语言模型训练目标(next token prediction)基础上,增加 reflection token 的预测损失,让模型学会在生成内容的同时输出这些特殊标记,从而自主判断检索时机和结果质量。
答题要点:说清楚 Reflection Token 的四种类型和各自作用,用具体例子展示模型如何自主决定检索。
Q29:Adaptive RAG 如何根据问题难度动态选择检索策略?
详解
Adaptive RAG 核心思想:不是所有问题都需要同样的检索深度。先对问题进行难度分类,然后根据难度路由到不同的处理流程。
三层难度分类:
| 难度 | 判断标准 | 示例 | 处理策略 |
|---|---|---|---|
| 简单 | 常识性问题、模型训练数据中高频出现 | “2+2=?”、“法国首都是哪?” | 直接回答,无检索 |
| 中等 | 需要查知识库但单步检索即可 | “公司请假流程是什么?” | 标准 RAG(单次检索+生成) |
| 复杂 | 需要多步推理、多源信息组合 | “对比我司和竞品上季度营收并分析原因” | Agentic RAG(多步检索+推理) |
分类器实现:规则判断(常识检查、计算判断)+ 轻量模型分类(慢速路径)。
答题要点:强调按需分配资源的理念,用三层分类和路由图展示设计。
Q30:Active RAG 与 Passive RAG 的区别是什么?
详解
| 维度 | Passive RAG(被动 RAG) | Active RAG(主动 RAG) |
|---|---|---|
| 检索时机 | 被动等待用户查询后才检索 | 主动预测用户可能需要的信息 |
| 信息准备 | 实时检索 | 提前准备,用户提问时立即可用 |
| 延迟表现 | 首次检索有延迟 | 首问即答,延迟极低 |
| 计算成本 | 按需付费(查询时才花钱) | 预计算有前期成本 |
| 适用场景 | 通用问答、低频查询 | 高频对话场景(客服、咨询) |
Active RAG 实现原理:对话开始时,基于用户画像和上下文预测用户可能问的问题并提前检索缓存。当用户真正提问时能即时回答。
实际案例——电商客服:用户刚下单了一部手机 → Active RAG 预测可能问“什么时候发货?”“支持7天无理由退货吗?”“有什么配件?”→ 提前查询并缓存 → 用户问“什么时候发货?”→ 立即回答!
答题要点:用对比表格说明差异,强调 Active RAG 的预测+预计算机制。
Q31:Agent 设计中的 Human-in-the-Loop 有哪些介入模式?
详解
四种介入模式:
| 模式 | 介入时机 | 人类职责 | 自动化程度 | 适用场景 |
|---|---|---|---|---|
| Approval(审批) | Agent 提交计划/关键操作前 | 审核批准 | 高(人类只做 Yes/No) | 高风险操作(转账、权限变更) |
| Correction(纠正) | Agent 执行过程中实时 | 纠正错误 | 中 | 个性化推荐、内容生成 |
| Guidance(指导) | Agent 迷茫时 | 提供高层指导 | 高(Agent 自主执行细节) | 探索性任务 |
| Observation(观察) | 全程 | 只观察不干预 | 完全自动化(异常才介入) | 低风险、成熟的 Agent |
答题要点:说清楚四种模式的区别(介入时机+人类职责),用流程示例展示每种模式。
Q32:什么是 Demonstration-Augmented Prompting(DAP)?
详解
DAP 核心思想:在 Prompt 中提供完整的操作演示(包括 Thought→Action→Observation 的完整 trace),让模型学习如何执行类似任务。
与 Few-shot 的区别:Few-shot 只给输入-输出对,DAP 给完整的推理+行动链条。在 Agent 场景中 DAP 效果更好,因为模型能学习到工具调用的时机和方式。DAP 示例:在 Prompt 中展示完整的“搜索→获取结果→思考→调用 finish”的 trace,模型学会这个模式后就能在新任务上复用。
答题要点:强调 DAP 与 Few-shot 的本质区别(完整 trace vs 输入-输出对),用完整示例展示 DAP 的 Prompt 写法。
Q33:Rewriting-Agent 模式如何优化用户原始查询?
详解
五大重写技术:
- Query Expansion:添加同义词和相关词。“LLM”→“LLM 大语言模型 Large Language Model”
- HyDE(Hypothetical Document Embedding):生成假设答案,用假设答案的 Embedding 去检索相似文档。原理:答案的 Embedding 比问题的 Embedding 更容易匹配到相关文档。
- Multi-Query:一个查询拆成多个不同表述的查询并行检索。
- Step-back Prompting:先问更通用的上位概念问题,再具体查询。
- LLM Rewrite:直接用 LLM 重写查询,使其更利于检索。例如把口语化问题转为书面表达、补充上下文信息等。
补充说明:Agent 级别重写 vs RAG 级别重写
- Agent 级别重写(如 Rewriting-Agent):发生在对话或任务规划层面,目标是帮助 LLM 更好地理解用户意图、消除歧义、建立上下文连贯性。通常伴随路由决策(该调用哪个工具/API)。
- RAG 级别重写:发生在检索层面,目标是让检索系统(向量库/搜索引擎)能更准确地召回相关文档。关注的是检索词的密度、Embedding 匹配度、关键词覆盖等。
- 两者可以协同:Agent 级别重写先做意图清晰化,RAG 级别重写再做检索适配。
RAG 场景中的额外考量:
- RAG 的查询重写需要考虑检索系统的能力边界(如向量库是否支持混合检索)
- 重写后的查询应保留原始查询的核心意图,避免过度扩展导致检索噪音
- HyDE 在 RAG 中效果特别显著,因为假设答案的 Embedding 能更好匹配文档分布
答题要点:说出至少 4 种重写技术并解释原理,HyDE 是当前最先进的重写技术,重点说明。
Q34:ToolFormer 的核心思想是什么?它如何让 LLM 学会使用工具?
详解
ToolFormer 核心思想:用自监督学习让模型自动学会何时调用工具。从少量人工标注的种子示例出发,让模型在未标注文本上自己发现“哪些位置插入工具调用有帮助”。
训练流程:
- 准备少量人工标注的种子示例 → “巴黎人口是[Search("巴黎人口")→216万]216万”
- 在未标注文本上采样位置
- 评估工具调用的“有用性”(帮助模型更好预测后续 token 则保留)
- 用筛选后的数据训练模型
ToolFormer 支持的工具:Search(获取实时信息)、Calculator(数学计算)、Translator(语言翻译)、Calendar(日期计算)。
答题要点:强调自监督学习和有用性评估两个核心机制。
Q35:什么是 Gorilla 模型?它在工具使用方面有何创新?
详解
Gorilla 简介:专门训练用于准确调用 1600+ API 的 LLM。解决了通用 LLM 在工具调用上的两个核心问题:幻觉 API(编造不存在的 API)和错误参数(参数名/类型传错)。
核心创新——检索感知训练(Retrieval-aware Training):训练时将 API 文档作为上下文,让模型学会“阅读文档→理解参数→正确调用”。
效果对比:
| 模型 | API 调用准确率 | 幻觉率 |
|---|---|---|
| GPT-4 | ~85% | ~15% |
| GPT-3.5 | ~70% | ~30% |
| Gorilla | >95% | <5% |
答题要点:说清楚检索感知训练的创新点,用准确率对比数据展示效果。
Q36:DSPy 框架如何改变 Agent 的开发范式?
详解
DSPy 核心思想:将 Prompt 工程从“手写调参”转变为“声明式编程+自动优化”。开发者用 Python 定义模块,DSPy 自动优化 Prompt 和少样本示例。
传统方式 vs DSPy:
| 维度 | 传统 Prompt Engineering | DSPy |
|---|---|---|
| 开发方式 | 手写 Prompt 字符串,人工调参 | 声明式定义模块,自动编译优化 |
| 优化对象 | Prompt 文本 | 模块组合 + 调用策略 |
| 可维护性 | 差(改动影响不可预测) | 好(模块化,改动局部化) |
答题要点:强调 DSPy 的声明式编程和自动编译优化两个核心创新。
Q37:LMQL(Language Model Query Language)是什么?它解决了什么问题?
详解
LMQL 简介:类 SQL 的声明式 LLM 查询语言。让开发者用声明式语法约束 LLM 输出,编译器自动转化为高效的 Constrained Decoding 策略。
解决的问题:
| 问题 | 传统方式 | LMQL 方式 |
|---|---|---|
| JSON 格式不稳定 | 生成后正则解析,经常失败 | 声明式约束,100% 合法 JSON |
| 多次调用开销大 | 一个字段调一次 LLM | 一次调用生成完整结构 |
| 输出不可控 | Temperature 调参碰运气 | 语法级约束精确控制 |
答题要点:说清楚 LMQL 的声明式约束特征,对比传统方式说明解决的问题。
Q38:Agent 中的 Error Handling 模式有哪些?
详解
五大错误处理模式:
- Retry with Exponential Backoff:指数退避重试,处理临时故障(网络超时、限流)。延迟:1s→2s→4s。
- Fallback to Alternative Tool:主工具失败时切换到备选工具。
- Escalation to Human:重试次数耗尽后人工介入。
- Graceful Degradation:部分功能失败时降级提供有限服务(如大模型故障→小模型→模板回复)。
- Self-Correction Loop:将错误信息反馈给 LLM 让它自我修正。适用:结果可验证的场景(代码执行、数学计算)。
答题要点:说出至少 3 种错误处理模式,说明每种模式的适用场景。
Q38.5:什么是 Computer Use(GUI Agent)?Agent 如何操作图形界面?
详解
Computer Use(也称为 GUI Agent)是指 Agent 能够像人类一样操作计算机图形界面——移动鼠标、点击按钮、输入文字、浏览屏幕截图。
工作原理:
用户指令 → 屏幕截图(Agent "看到"界面)
→ 视觉理解(识别按钮、输入框、菜单等 UI 元素)
→ 动作规划(确定需要点击/输入的位置)
→ 执行动作(模拟鼠标移动/点击、键盘输入)
→ 观察结果(新的屏幕截图)
→ 循环直到任务完成
与传统 Function Calling 的区别:
| 维度 | 传统 Function Calling | Computer Use |
|---|---|---|
| 接口依赖 | 需预定义 API Schema | 不需要 API,直接操作界面 |
| 适用范围 | 有 API 的系统 | 任何有 GUI 的软件 |
| 鲁棒性 | 高(结构化输入输出) | 中(依赖视觉识别准确率) |
| 延迟 | 低 | 高(需处理截图+视觉理解) |
关键技术:屏幕截图分析(OCR 识别文字、目标检测定位元素)、坐标定位与动作映射、操作历史与状态追踪、错误恢复(界面变化时的重新规划)。
实际案例:Claude 的 Computer Use 能力让 Agent 直接操作桌面软件完成数据录入、文件管理等任务;Operator (OpenAI) 通过浏览器操作完成订票、购物等流程。
答题要点:强调这是 Agent 能力的重要扩展——从“调用 API”到“操作任意软件”,以及视觉理解精度是主要瓶颈。
Q39:什么是 Demonstration-Conditioned Agent?它与标准 Agent 有何不同?
详解
Demonstration-Conditioned Agent 核心思想:Agent 在执行任务时,会参考过往的成功执行轨迹(demonstrations)作为示范。
与标准 Agent 的区别:
| 维度 | 标准 Agent | Demonstration-Conditioned Agent |
|---|---|---|
| 决策依据 | 当前上下文 + 工具描述 | 当前上下文 + 工具描述 + 历史成功案例 |
| 学习能力 | 不学习(每次独立执行) | 从历史案例中隐式学习 |
| 适用场景 | 通用任务 | 复杂企业流程(报销、运维) |
实现方式:将历史成功轨迹存入向量库,新任务做相似度匹配,检索相似案例注入 Prompt。
答题要点:强调历史成功案例的检索和复用,对比标准 Agent 说明差异。
Q40:Agent 的 State Machine(状态机)设计模式如何实现复杂流程控制?
详解
State Machine 核心思想:将 Agent 的执行流程建模为有限状态机(FSM),定义明确的状态和状态转移条件。
电商订单处理状态机示例:
INIT → 提交订单 → PENDING → 支付成功 → PAID → 发货 → SHIPPED
↓ ↓
支付失败 FAILED 签收确认 DELIVERED → COMPLETED
优势:流程可视化、可审计;每个状态有明确的入口/出口条件;易于扩展新状态;支持断点续传(持久化当前状态)。
LangGraph 的 StateGraph 是这一模式的实现。
答题要点:用状态图展示设计,说出至少 3 个优势。