ReguLattice AI Governance Platform

大家好，我是 Moazzam，来自卡拉奇，是 ReguLattice 的开发者。

企业正开始让 AI 代理回答客户问题、修改记录和转移资金。我反复看到同一个缺口：大多数 AI 治理方案都只是事后描述风险的文件和仪表盘，没有任何机制能在不当操作发生时将其阻止。

因此，我们构建了一个位于 AI 前面的网关。每一次提示词调用、代理工具调用和 AI 支付都会得到一个结果：ALLOW（允许）、SIGN_OFF（由指定人员审批）或 BLOCK（阻止）。结果依据固定规则得出，而不是依赖另一个模型；如果网关中断，操作也不会执行。每项决策都会写入签名记录，审计人员无需信任我们，即可离线核验。它还能发现团队未经批准使用的 AI 工具，并且可以完全在自有服务器上通过本地模型运行。

在我们自己的红队测试中，针对支付网关发起的 215 次攻击全部被阻止或暂缓，40 笔真实支付也全部成功完成。这是我们自己的测试，并非独立审计，而且我们目前还没有收入。

沙盒在打开前会要求填写姓名和电子邮箱，以便我们联系那些试用的人。

适用对象：银行、金融科技公司及其他受监管企业中的团队。他们希望使用 AI 代理，同时必须向监管机构证明自己仍对这些代理保持有效管控。

我非常希望听取大家对两个问题的反馈：下一步应该尝试防范哪种攻击？在将这类工具部署到 AI 代理前面之前，你们需要看到哪些证据才会愿意信任它？