← 返回目录

第 7 卷

第 7 / 15 卷日期:

Q78:Tool Call(工具调用)的执行流程是怎样的?

[用户提问] → [LLM 思考] → [决定调用工具 Tool A]

↓

[执行 Tool A] → 返回结果

↓

[LLM 继续思考] → [是否还需要工具?]

├── 是 → 调用 Tool B → 执行 → 返回

└── 否 → 生成最终回答

关键面试点:LLM 不直接执行工具它只是输出“我想调用 XX 工具,参数是 YY”。实际执行由你的代码完成。

Q79:Tool Call参数残缺或格式错误怎么办?

三层防御:

层级方法示例
预防Pydantic Schema定义严格的参数类型city:str=Field(description="城市名")
检测调用前验证参数完整性ifnotargs.get("city") returnerror
自愈将错误信息返回给LLM让它修正"参数city缺失,请重新提供"

Q80:如何阻止Agent的工具调用死循环?

致命场景:Agent反复调用同一个工具搜索→不满意→再搜索→还不满意→再搜索…无限循环

防御机制:

方法实现推荐度
迭代计数器ifiteration>5 强制停止⭐⭐⭐⭐⭐
工具调用频率限制同一工具3秒内不能调用两次⭐⭐⭐⭐
结果去重如果工具返回和上次相同结果→停止⭐⭐⭐
总Token上限单次对话Token > 10000→强制结束⭐⭐⭐⭐
轨迹检测检测是否出现A→B→A→B的重复模式⭐⭐⭐⭐

iteration_count 字段 +条件边 should_continue实现”。

Q81-Q85:记忆深度

Q81:什么是 MemGPT?它解决了什么问题? → MemGPT 模拟操作系统的虚拟内存机制将消息分为“主存”(上下文窗口内)和“外存”(向量数据库),Agent自主决定何时将信息从外存调入主存。解决了上下文

窗口有限的根本问题。

Q82:如何实现“Agent记住用户偏好”?→每次对话结束后,用LLM提取用户偏好(如“喜欢简洁回答”“是前端开发者”),存入用户画像(Redis/PostgreSQL)。下次对话时注入System Prompt。

Q83:Conversation Summary Bu er Memory 是什么? → LangChain 的一种混合记忆:最近的消息保持原样,更早的消息被压缩为摘要。Bu er大小可配置(如最近5条原样+之前的全部压缩为一段摘要)。

Q84:多轮对话中,如何处理代词指代消解? → 用户说“它怎么样?”“它”指什么?解决:在发送给 LLM 前,将完整的对话历史一起发送(LLM 自然能理解上下文中的指代)。或者用独立的NLU 模块做指代消解

后再检索。

Q85:Agent 的“working memory”和“episodic memory”有什么区别? → Working Memory =当前任务的即时上下文(如当前计划、中间结果);Episodic Memory =历史交互经验(如“用户上次问过XX,我给的

方案是YY”)。前者存在State中,后者存在向量库中。

Q86-Q90:工具调用高级

Q86:Parallel Tool Calling 是什么?什么时候用?→模型同时输出多个tool_calls,你的代码并行执行它们。

适合独立的工具调用(如同时查天气和查股价)。注意:有依赖关系的调用不能并行(如先查城市再查天气)。

Q87:如何设计工具的description让模型准确选择?→ Description要具体、明确、有边界。反模式:“查询信息”(太模糊)。好模式:“查询指定城市的实时天气,包括温度、湿度、风速。输入参数:city(字符串,

如’北京’)”。

Q88:工具调用超时怎么处理? →设置超时(如 10秒)。超时后返回错误信息给 LLM:“工具 get_weather 调用超时(>10s),请换个方式回答或告诉用户稍后重试”。LLM会根据错误信息调整策略。

Q89:Function Calling 和Tool Calling 有什么区别?→ Function Calling 是OpenAI 旧版API 的叫法;Tool Calling 是新版统一叫法。本质相同,但新版Tool Calling 支持并行调用和更灵活的Schema。

Q90:如何限制Agent只能调用特定的工具?→在 bind_tools 时只传入允许的工具列表。更细粒度的控制:

用 tool_choice 参数"auto"(模型自主选择)、 "none"(禁止调用工具)、 {"type": "function", "function": {"name": "get_weather"}}(强制调用特定工具)。

Q91-Q100:异常处理与安全

Q91:Agent执行过程中LLM API挂了怎么办?→三级降级:①重试(3次指数退避)②切换备用模型③返回友好错误信息+缓存最近的成功回答作为fallback。

Q92:如何防止Agent通过工具执行危险操作?→最小权限原则数据库工具只给SELECT权限,文件工具只允许读取指定目录,网络工具限制可访问的域名白名单。在工具执行前加审批节点(Human-in-the-

Loop)。

Q93:Agent 的“幻觉工具调用”是什么? →模型调用了一个不存在的工具名,或者参数完全编造。解决:在执行前校验工具名是否在允许列表中,参数是否通过Schema 验证。

Q94:如何记录 Agent 的完整执行轨迹用于审计? →使用 LangSmith 或自建日志系统,记录每一步的:输入

  • LLM决策→工具调用→工具结果→下一步决策。保留至少30天。

Q95:什么是“Agent 的安全沙盒”? →将 Agent 可执行的操作限制在隔离环境中代码执行用 Docker容器,文件访问限制在指定目录,网络请求限制白名单。即使Agent被Prompt Injection也无法造成实际损害。

Q96:多轮对话的“状态一致性”怎么保证?→使用LangGraph Checkpointer做状态持久化。每次节点执行后自动保存State快照。请求失败时可以回滚到上一个一致状态重试。

Q97:Agent 的“置信度”怎么评估? → ① 让 LLM 自评 con dence(0-1),但可靠性有限 ② 多次采样取一致性比例(3次采样有3次相同=高置信)③检索结果的Reranker分数作为证据置信度。

Q98:什么是 Toolformer?与 Function Calling 有什么关系? → Toolformer是 Meta 的论文让模型在训练时学习何时以及如何调用API。Function Calling 是推理时的工程实现。前者是学术研究,后者是工程落地。

Q99:如何测试 Agent 的工具调用能力? →构建测试用例集: [{"input": "北京天气", "expected_tool":

"get_weather", "expected_args": {"city": "北京"}}],运行 Agent 后检查是否调用了正确的工具和参数。覆盖:正常调用、参数缺失、不需要工具、多工具等场景。

Q100:Agent的“规划能力”和“执行能力”应该分开还是合一?→分开更好Plan-and-Execute架构。

Planner用强模型(GPT-4o)生成计划,Executor用便宜模型(GPT-4o-mini)逐步执行。这样既保证规划质量,又控制执行成本。

全站分卷索引 · 15 卷
  1. 1第 1 卷
  2. 2第 2 卷
  3. 3第 3 卷
  4. 4第 4 卷
  5. 5第 5 卷
  6. 6第 6 卷
  7. 7第 7 卷
  8. 8第 8 卷
  9. 9第 9 卷
  10. 10第 10 卷
  11. 11第 11 卷
  12. 12第 12 卷
  13. 13第 13 卷
  14. 14第 14 卷
  15. 15第 15 卷