AI Observability by OpenObserve

Product Hunt 的朋友们，大家好，我是 Ashish，OpenObserve 的工程负责人。

如果你的 AI 代理此刻卡在了工具调用循环里，你能察觉吗？你能在客户发现之前就把它揪出来吗？

我们没能做到。

在一次现场演示中，我们自己的 AI SRE 代理悄无声息地停滞了。没有报错，没有超时，日志里也找不到任何有用的信息。

我们不得不导出原始的 trace 数据逐条调试，才发现是陷入了循环。

靠肉眼读原始 trace 不算调试策略——只是一句还没说出口的道歉。

于是我们把 AI 可观测性直接内置到了 OpenObserve 之中。我们希望揭开这个黑盒的内部。

它真正为你带来的是：

• 会话（Sessions）：完整勾勒出每一轮交互的脉络。你可以清晰地看到每一次 LLM 请求、工具调用、token 消耗、成本，以及提示词缓存究竟为你省下了多少。

• 代理图谱（Agent Graph）：把你的代理、工具和模型绘制在与你其他后端服务完全相同的服务拓扑图上。

• 代理行为（Agent Behavior）：自动标记出那些陷入循环或失败的会话，远在用户投诉之前。

• 在线评估（Online Evals）：你可以使用任意裁判模型（自带提供方和 API Key）对线上会话进行打分。

• 标注队列（Annotation Queues）：把那些糟糕的失败会话转化为干净的标注数据集，从而对修复方案进行回归测试。

最棒的是什么？它原生兼容 OpenTelemetry。

开箱即支持 OTel GenAI、OpenInference、OpenLLMetry 和 Vercel AI SDK 等多种规范的归一化处理。你已有的接入不会浪费，也不需要把数据复制一份再发到另一个平台。

我们的 SRE 代理现在每天都在基于它运行，它依然是我们最严苛的批评者。

把你的代理 trace 接入试试吧，期待听到你发现了什么。