全部笔记

从意图分类到 Agent 路由

把用户目标转化为安全、可解释执行路径的一套实用架构。

AgentsRoutingArchitecture

分类停得太早

分类器回答的是“这属于哪类请求”,Agent Router 则要回答更难的问题:“哪一组模型、工具、策略和上下文能够完成任务?”这个变化同时影响输出 Schema 与评估方法。

路由应该是一条明确的系统边界。即使由 LLM 提议路由,应用代码仍然需要在执行前验证权限、必要实体与可用工具。

五阶段处理流程

  • 理解任务,并判断其中是否包含多个目标。
  • 提取执行每个目标所需的实体。
  • 补齐缺失信息,或应用明确声明的默认值。
  • 根据能力和策略选择 Agent 或工具。
  • 记录置信度与决策原因。
TEXT
query -> task analysis -> entities -> policy gate -> agent/tool

路由结果必须可以检查。“Weather Agent”有用,而“因为用户查询北京明天的天气,所以选择 Weather Agent”更容易调试。

路由也是产品体验

错误路由在用户看来往往像模型质量问题,实际原因可能是能力定义模糊、工具重叠,或缺少回退策略。每条路由都需要清晰契约:输入、输出、成本、延迟与失败语义。

不只评估准确率

Top-1 意图准确率远远不够。还应衡量任务完成率、无效工具调用、澄清质量、延迟,以及误路由的代价。对于多意图请求,还要检查系统是否保留任务之间的依赖关系。

最好的路由器不是最聪明的分类器,而是能持续把任务送到正确能力上的最小决策系统。