LLM 应用可观测性工程：从 token 账单到 Agent 轨迹追踪
· 阅读需 7 分钟
传统可观测性三板斧——指标、日志、链路——搬进 LLM 应用后很快就失灵了。原因有三个：成本不再是「一台机器多少钱」而是「一个请求烧了多少 token」；故障不再只有 500 错误，还有「返回了 JSON 但字段是错的」「在工具调用里循环了 15 轮」「幻觉编了个不存在的订单号」；确定性不复存在——同一 prompt 两次调用结果不同，你没法靠「重放请求」复现 bug。
这不是换一套 dashboard 的事，而是需要一套面向 LLM 的语义模型：知道哪一次调用花了多少钱、哪个 span 对应哪次工具执行、哪条 Agent 轨迹陷入了循环。本文从 OpenTelemetry GenAI 语义约定出发，拆解指标、追踪、成本归因三个层面，最后给出一条可落地的开源工具链路径。