Tag: agents-tool-use

常见失败：循环、选错工具、忽略观察、过早终止、目标漂移；用重试、反思、验证、检查点与人工介入恢复。

用 RL 训练 Agent 的多步决策（工具选择/调用），奖励为任务成功；难点是稀疏奖励、长轨迹与信用分配。

让 Agent 直接操作 GUI（点击/输入/截图）；挑战是视觉定位、动作空间大、错误不可逆、评估困难。

交替’思考→行动→观察’，用外部工具获取信息并修正推理；动机是弥补 LLM 的’知识静态、无法执行动作’。

用 JSON Schema 描述工具，模型输出结构化调用，系统执行后回填结果；关键是 schema 设计、错误处理与并行调用。

短期=上下文窗口（对话历史）；长期=外部存储（向量库/知识图谱）；工作记忆=当前任务的中间状态。

用多个角色（规划者/执行者/批评者）分工协作；风险是通信成本、错误传播、责任不清与’群体思维’。

任务成功率（端到端）+ 过程指标（步骤正确率/工具选择）+ 成本效率；需真实环境与可复现的测试集。

成本 ∝ 轮数 × 上下文长度 × 工具调用；用上下文压缩、模型分级、缓存、并行与预算上限控制。

先把目标分解为子任务（显式计划），再逐步执行；比’边想边做’更能处理长任务与依赖关系。