- ✓
开源工具
- ✓
pip install agent-breaker
- ✓
ML 检测器可选(pip install agent-breaker[ml])
Agent Breaker
在生产部署前中断、测试并保护 AI 智能体
Agent Breaker 是什么?
Agent Breaker 是一款面向 AI 代理的混沌工程与安全测试框架,目前在 PyPI 已有超过 2000 次安装。它可以在部署前针对 LangGraph 应用进行提示注入、工具滥用等对抗场景测试,通过自动化对抗测试、故障检测报告和基于机器学习的评估,帮助开发者在用户使用前发现问题,构建更安全可靠的 AI 代理。
产品详细介绍
在生产部署前中断、测试并保护 AI 智能体
Agent Breaker 是一款面向 AI 代理的混沌工程与安全测试框架,目前在 PyPI 已有超过 2000 次安装。它可以在部署前针对 LangGraph 应用进行提示注入、工具滥用等对抗场景测试,通过自动化对抗测试、故障检测报告和基于机器学习的评估,帮助开发者在用户使用前发现问题,构建更安全可靠的 AI 代理。
定价方案
有免费方案Free/免费
免费
创始人评论
M
Maker创始人
嘿,Product Hunt 的朋友们!👋
我是 Gokul,Agent Breaker 的开发者。
在构建和研究 AI 智能体的过程中,我发现大多数开发者都专注于让智能体正常运行,却很少花时间测试它们会如何失效。
传统软件有单元测试、集成测试、负载测试和混沌工程。而 AI 智能体虽然可以访问工具、内存和外部系统,却往往没有这些保障机制。
我打造了 Agent Breaker,帮助开发者通过对抗性攻击和故障场景自动对 LangGraph 应用进行压力测试。目标很简单:在用户发现之前,先找到漏洞、不安全行为和可靠性问题。
这是一个开源项目,我非常欢迎任何构建 AI 智能体、智能体框架或评估系统的开发者给出反馈。
你们在构建 AI 智能体时遇到过最严重的故障是什么?
官网信息
公司使命
面向 AI 智能体的混沌猴子 - LangGraph 应用的自动化对抗测试