官网查看
定制方案
- ✓
暂未采集到具体套餐,价格以官网为准
AI系统提示词漏洞扫描器
Raven 是一款专为 AI 系统提示词打造的安全扫描工具,能基于 OWASP LLM Top 10,针对提示词注入、越狱攻击和信息泄露等真实威胁进行模拟测试。用户只需粘贴提示词即可即时获得风险评分与具体的修复建议,全程免费、无需注册。
AI系统提示词漏洞扫描器
Raven 是一款专为 AI 系统提示词打造的安全扫描工具,能基于 OWASP LLM Top 10,针对提示词注入、越狱攻击和信息泄露等真实威胁进行模拟测试。用户只需粘贴提示词即可即时获得风险评分与具体的修复建议,全程免费、无需注册。
暂未采集到具体套餐,价格以官网为准
嘿,Product Hunt!
我是 Javeria,我开发 Raven 是因为我不断看到 AI 聊天机器人被一些相当简单的攻击打破角色设定或泄露系统提示,而在产品上线之前,并没有一种简便的方法能真正测试这些问题。
Raven 允许你粘贴聊天机器人的系统提示,然后通过 OWASP LLM Top 10 六大类别中的真实 prompt 注入、越狱和信息泄露攻击对其进行测试。你将获得一个风险评分、按攻击类型细分的报告以及可操作的修复建议,无需提供线上机器人的 API 密钥,也无需注册,完全免费。
在底层,它采用了一套混合检测系统:对于明确的情况使用快速模式匹配,对于模糊的拒绝回答则使用一个小型本地分类器,因此不会为了评判第一次输出而额外消耗一次 LLM 调用。
非常希望你能用自己的系统提示试一试,告诉我哪里被攻破了,或者你遇到了哪些误报。目前产品尚处于早期阶段,我正在持续扩充攻击库。欢迎在评论区就检测方法提出任何问题,我很乐意解答!