Aequitas AI

你好 Product Hunt，我是 Ruthvik，Aequitas 是我独立开发的产品。

开发它的灵感源于一个令人不安的发现：如今所有 AI 系统本质上都是语言模型在校验语言模型。你可以随意堆叠多层审核机制，但如果堆栈的每一层都是语言模型，那么所有环节都无法避免产生幻觉式共识。始终没有一个环节能让 AI 无法伪造对推理过程的校验。

问题的另一面是，所有 AI 产品永远都会给出答案。永远如此。哪怕问题远远超出了它的能力范围。这不是靠更好的提示词就能解决的问题，它是结构性缺陷。

现在想一想谁最需要靠谱的 AI：律师、风控团队、监管机构、董事会。这些人不需要随便一个答案，他们需要一个能对可以行使否决权的一方负责的答案。对他们来说，流畅自信的错误答案比没有答案更糟糕，因为他们会据此采取行动，最后还要为自己的行为辩解。

因此 Aequitas 的设计理念完全相反。它接收复杂问题，从多个视角展开辩论，再将推理过程输入形式证明引擎——这是一个数学求解器，而非另一个 AI 来给第一个 AI 打分。独立对抗性审计会尝试推翻结果。它还会标出决策中两个目标确实无法同时成立的情况，不会用虚假共识掩盖真实的权衡取舍。最后由一道完全不包含 AI 的确定性闸门，决定结论是否有资格获得认证。当推理无法被证明是可靠的时候，Aequitas 会如实说明，而不会悄悄给它盖上认证章。

接下来讲讲这个方案的演进过程，这是我一开始没有预料到的部分。

我最初的目标是打造尽可能严谨的答案机器。随后我在自己的系统中发现了一个问题，彻底改变了整个项目：一个关键内部模型会悄悄回退到较弱版本，但最终报告仍然会显示“已认证”。从结构上没有任何机制阻止这种情况发生，两种情况的输出看起来完全一样。

这彻底改变了一切：一个无法检查自身运行状态的系统没有资格给任何东西做认证，因为给一次降级运行做认证，你甚至都不知道自己在撒谎。所以我打造了一道专门用来阻止我自己系统出问题的闸门。现在 Aequitas 每次运行都会检查所有核心组件的健康状态，如果任何组件运行在降级模式，就拒绝给出认证。

这个设计理念延伸到了更多地方：我的可靠性分数过去在本质上只是一个公式输出，却伪装成校准概率，所以我现在让它主动标注自己未校准，而不是伪造我并没有的精度。我的快速筛选层现在被代码限制不能给出认证，因此浅层次分析永远无法伪装成深度分析。

关于它目前的实际状态，我会精确说明，因为这种精确本身就是产品的一部分。目前已上线功能：每个认证分析都包含多视角审议、对所有主张的形式验证、独立对抗性审计、可靠性检查（每次运行都会记录并公开决策过程）、组件健康证明（这一项已经可以直接阻断认证）、以及诚实分级。即将推出：将可靠性闸门的公开披露升级为硬性自动阻断——只需要在基于真实结果完成置信度校准后拨动一个开关即可，此外还有可独立验证的证明证书和校准后的置信度分数。我宁愿清楚地告诉你区别，也不会让你自行猜测。

有一点我想坦诚说明：对 AI 输出进行形式验证并不是新技术，至少有一家主流云服务商已经做得很好了。但我在任何地方都没找到这样一个系统：它会把“认证或弃权”作为对开放性问题的最终结论，并且会在自身组件降级时拒绝给出认证。

我的请求是：给它提一个你所在领域真正的难题，看看它会如何应对。说实话，我很乐意看到它弃权，那说明产品在正常工作，而不是故障。

我很乐意回答任何问题，尤其是带质疑的问题。