Panton

{"translation":"大多数 AI 工具都被优化得只会附和你的想法。让它给你的点子挑刺，它也只会找出几个无关痛痒的地方，告诉你这个想法"很有潜力"，然后用更漂亮的排版把你的自信原样奉还。真正的问题就在这里——不是 AI 不能推理，而是它压根没有动力去真正拆解你交给它的东西。\n\n灵感的来源其实很直接：我想要一个东西，能像一位不怀好意的审稿人那样对待我自己的主张，而不是像啦啦队员那样。带去一个猜想、一份创业论点、一个系统设计，什么都行，然后让它去攻击该领域真正的专家会攻击的那个具体之处——证明中的退化情形、论点里的单位经济学、系统设计中的尾部延迟。不是泛泛的"你是否考虑过可扩展性"那种反馈，而是真正的硬碰硬。\n\n在真正用来检验真实主张、而不是玩具示例之后，整个方法发生了很大变化。早期的置信度分数直接来自模型本身，这等于说，判断一个主张的系统和提出这个主张的系统是同一个东西，毫无价值。后来这一点被一个确定性的证据排序层取代：一个主张要拿到高的置信度分数，前提是模型之外有东西真的检验过它——一个数值核、一次蒙特卡洛扫描、一轮 SAT 搜索——而不能仅仅因为听起来合理就给出高分。\n\n另一个重大转变，是我们意识到对纠正本身的审视必须和其他所有东西一样严格。做一个用户一反驳就立刻服软的工具太容易了。要做对，意味着哪怕只是一句简单的"你错了"，也得给出理由再驳回；而即便是一份货真价实的设备端反驳，也得作为已被反驳的记录留在档案里，而不是悄无声息地抹掉。这才是真正花了最多轮迭代才拿下的一块，因为在这里，技术上正确和用着顺手，是相互拉扯的。"}