AI工具导航

AgentTrace

用于 AI 智能体流水线的开源断路器

AgentTrace 是什么?

AgentTrace是面向AI智能体流水线的开源断路器工具。它内置14项检查规则,可检测幻觉、PII泄露、prompt注入等风险,一旦某个智能体出现问题就会阻断流程,避免下游智能体继续执行错误任务。工具支持全本地运行,提供实时审计面板,只需两行代码即可集成到LangChain、CrewAI等主流框架中,采用MIT许可开源。

产品详细介绍

用于 AI 智能体流水线的开源断路器

AgentTrace是面向AI智能体流水线的开源断路器工具。它内置14项检查规则,可检测幻觉、PII泄露、prompt注入等风险,一旦某个智能体出现问题就会阻断流程,避免下游智能体继续执行错误任务。工具支持全本地运行,提供实时审计面板,只需两行代码即可集成到LangChain、CrewAI等主流框架中,采用MIT许可开源。

定价方案

有免费方案
Free/免费
免费
  • 开源

  • 14 条内置规则

  • 本地 React 仪表板

查看官网价格

创始人评论

M
Maker创始人

{"translation":"嘿,Product Hunt 👋

我是 Kalash,AgentTrace 的开发者。

𝗦𝗮𝗮𝘀 问题:三个月前我在调试一个多智能体 AI 流水线。一号智能体(研究员)返回了错误数据——一个幻觉生成的数字。二号智能体(起草员)基于它生成了报告。三号智能体(执行者)把报告发给了客户。每个环节都返回了 200 成功状态码,我的日志完全没捕捉到这个问题。

我们现在有基础设施可观测性工具,但 AI 智能体完全没有问责机制。这正是 AgentTrace 填补的缺口。

𝗜𝘁 它的实际功能:

→ 仅需两行代码即可包装任意智能体

→ 14 项合规规则并行运行(个人可识别信息、幻觉检测、提示注入、欧盟 AI 法案……)

→ 一旦某个智能体触发规则,整条流水线就会停止,下游智能体根本不会执行

→ 完整审计追踪,附带 UUID,数月后仍可查询

→ 实时仪表板展示风险分布、流水线监控、违规详情

这不只是日志记录,这是事前干预。

𝗛𝗮𝗹𝗹𝗼幻觉检测功能值得一提。它不需要调用另一个大语言模型就能工作。提取数值、归一化单位,并和你的 RAG 上下文对比。如果智能体说“8000mg”但你的数据源显示“2000mg”,就会以 0.98 的置信度拦截。

𝗪𝗵为什么做开源:我希望每个 AI 团队都能用上它,而不只是那些每年有 5 万美元安全预算的团队。SDK、规则引擎和仪表板永久免费。

GitHub:github.com/kalash33/agenttrace

Kalash

"}

官网信息