官网查看
定制方案
- ✓
暂未采集到具体套餐，价格以官网为准
Mutant-AI
扩展评估覆盖范围，并使用红队代理来攻破AI系统
Mutant-AI 是什么？
Mutant-AI 是一个开源 Python 库，专注于大语言模型的自动化红队测试、合成数据增强与行为评估。它能够针对 LLM、RAG 和 AI Agent 系统扩展评测覆盖范围，借助"红队代理"模拟对抗场景，主动发现模型的安全漏洞与异常行为。
产品详细介绍
扩展评估覆盖范围，并使用红队代理来攻破AI系统
Mutant-AI 是一个开源 Python 库，专注于大语言模型的自动化红队测试、合成数据增强与行为评估。它能够针对 LLM、RAG 和 AI Agent 系统扩展评测覆盖范围，借助"红队代理"模拟对抗场景，主动发现模型的安全漏洞与异常行为。
定价方案
需要付费创始人评论
Ankit Mishra创始人
嗨，Product Hunt！👋
我开发 Mutant，是因为我不断看到 AI 评测很快就会变得静态：先编写一个数据集、运行评测，最终便不再发现新的失效模式。
Mutant 包含两个核心部分：
• 行为变异——基于现有评测数据集生成有针对性的变体，从而扩大评测覆盖范围。
• 红队智能体——让自主智能体攻击 LLM、RAG 系统和 AI 智能体，以发现漏洞及意外失效模式。
目标很简单：让你更轻松地持续发现 AI 系统可能出现的各种问题，赶在用户之前发现它们。
很想听听你们目前在评估哪些失效模式或攻击时遇到了困难。🚀
创始团队
Ankit Mishra创始团队
