观测与治理

只要是 Agent 干的,就有案可查。

AgentGuide 站在每一次模型调用、工具执行与 agent 轮次的必经之路上, 所以可观测性不是一个指望每个团队都接入的 SDK,而是流量本身的属性。 同样的位置也让治理成为强制执行,而不是善意建议。

用量事件

四类事件,一套归因模型。

LLM、MCP、ACP 与 builtin 流量各自产生持久化的类型化用量事件。 每条事件都携带引发它的 agent —— 成本、时延与错误按 agent 汇总, 而不只是按端点。

时间 类型 agent 目标 tokens 入 / 出 时延
14:02:11 llm support-triage anthropic · claude-sonnet-5 8,412 / 1,203 2.1s
14:02:13 mcp support-triage crm-tools · lookup_account 340ms
14:02:19 builtin report-writer turn · plan-execute 31,908 / 4,551 18.7s
14:02:24 acp codex-dev turn · session 7f3a 12,050 / 2,340 timeout
token 经济账

对账级的 token 明细

prompt、completion、缓存与推理 token 分别记录 —— 这才是解释账单、调优缓存真正需要的数字。

调用链

span,而不只是计数器

agent 轮次打开交互 span;内部的模型调用与工具执行嵌套其下。 你看到的是因果链条,而不是四份互不相干的日志。

诚实的错误

故障分门别类

客户端错误、上游故障与内部异常在每条事件上区分开 —— agent 的失误与提供商的宕机永远不会混为一谈。

分析与集成

就地查询,随处聚合。

内置

指标 Admin API

带管道健康计数的汇总、按协议的时间序列与维度分解、近期交互事件, 以及按 agent 的用量与活动视图 —— 网关一启动即可查询。

  • 按 agent 汇总 每个注册 agent 的用量、活动、交互与健康。
  • Prometheus 暴露 直接抓取网关;趋势与告警交给 Grafana。
  • OpenTelemetry 接缝 为对接你的追踪体系而设计的 sink 适配器。
  • 保留期控制 可配置的数据保留与自动清理 —— 不吃垮你存储的可观测性。

治理

在唯一绕不过去的位置执行策略。

Wiki 里的规范拦不住凌晨三点的 agent,网关上的控制可以。 AgentGuide 的治理是结构性的:流量不满足策略,就到不了模型、工具或 agent。

访问

身份与密钥

  • 按应用、团队或 agent 发放虚拟密钥 —— 集中签发、轮换、吊销
  • 上游密钥永远不出网关
  • 路由级鉴权要求,fail-closed
操作

审批门禁

  • 默认拒绝;安全处自动批准;关键处交互式人工审批
  • 未回应的请求超时即拒绝
  • 每个决定可归因、有记录
爆炸半径

失控防护

  • agent 递归深度限制,在网关处掐断 agent 套 agent 的循环
  • 按 agent 的并发上限与轮次超时,拒绝而非排队
  • panic 隔离:一个坏轮次永远拖不垮网关
资源

能力有边界

  • agent 只能触达绑定给它的模型路由与 MCP 工具
  • 托管编码 agent 运行在池化的隔离进程中,限定在许可的文件系统根内
  • 缺失的工具大声报错 —— 没有静默降级
  • 一条路由只属于一个 agent:归因始终无歧义

把你的 Agent 放上雷达

在扩编队伍之前,先学会观测。

能把多 agent 系统做成的团队,都是先看清了单个 agent 的团队。 部署网关,把一个 agent 的流量接进来,画面自然会浮现。