- ✓
开源
- ✓
14 条内置规则
- ✓
本地 React 仪表板
AgentTrace
用于 AI 智能体流水线的开源断路器
AgentTrace 是什么?
AgentTrace是面向AI智能体流水线的开源断路器工具。它内置14项检查规则,可检测幻觉、PII泄露、prompt注入等风险,一旦某个智能体出现问题就会阻断流程,避免下游智能体继续执行错误任务。工具支持全本地运行,提供实时审计面板,只需两行代码即可集成到LangChain、CrewAI等主流框架中,采用MIT许可开源。
产品详细介绍
用于 AI 智能体流水线的开源断路器
AgentTrace是面向AI智能体流水线的开源断路器工具。它内置14项检查规则,可检测幻觉、PII泄露、prompt注入等风险,一旦某个智能体出现问题就会阻断流程,避免下游智能体继续执行错误任务。工具支持全本地运行,提供实时审计面板,只需两行代码即可集成到LangChain、CrewAI等主流框架中,采用MIT许可开源。
定价方案
有免费方案创始人评论
{"translation":"嘿,Product Hunt 👋
我是 Kalash,AgentTrace 的开发者。
𝗦𝗮𝗮𝘀 问题:三个月前我在调试一个多智能体 AI 流水线。一号智能体(研究员)返回了错误数据——一个幻觉生成的数字。二号智能体(起草员)基于它生成了报告。三号智能体(执行者)把报告发给了客户。每个环节都返回了 200 成功状态码,我的日志完全没捕捉到这个问题。
我们现在有基础设施可观测性工具,但 AI 智能体完全没有问责机制。这正是 AgentTrace 填补的缺口。
𝗜𝘁 它的实际功能:
→ 仅需两行代码即可包装任意智能体
→ 14 项合规规则并行运行(个人可识别信息、幻觉检测、提示注入、欧盟 AI 法案……)
→ 一旦某个智能体触发规则,整条流水线就会停止,下游智能体根本不会执行
→ 完整审计追踪,附带 UUID,数月后仍可查询
→ 实时仪表板展示风险分布、流水线监控、违规详情
这不只是日志记录,这是事前干预。
𝗛𝗮𝗹𝗹𝗼幻觉检测功能值得一提。它不需要调用另一个大语言模型就能工作。提取数值、归一化单位,并和你的 RAG 上下文对比。如果智能体说“8000mg”但你的数据源显示“2000mg”,就会以 0.98 的置信度拦截。
𝗪𝗵为什么做开源:我希望每个 AI 团队都能用上它,而不只是那些每年有 5 万美元安全预算的团队。SDK、规则引擎和仪表板永久免费。
GitHub:github.com/kalash33/agenttrace
Kalash
"}