Stacksona

{"translation":"我之所以开始构建 Stacksona，是因为在花了大量时间研究 AI 代理之后，每次都会撞到同一堵墙：代理确实能完成工作，但在执行高风险操作之前，却没有好的办法暂停它、把人类引入进来，然后再让它继续运行。\n\n最初我只是想解决那一个审批环节。但一旦深入进去，我就意识到审批只是冰山一角。你还需要规则来定义什么会触发审查、需要通知机制、需要那些不会因为没人立刻响应就消失的请求，以及一份完整的记录——记录代理尝试了什么、审查者做出了什么决定、之后又发生了什么。\n\n这基本上就是 Stacksona 最终演变成的样子：构建在任何代理工作流之上的人工审查和运行时治理基础设施，这样你就不用每次都自己重新搭建这一切。\n\n我觉得，当人类参与其中时，代理实际上会变得更有用，而不是更没用。这是我为了让"人在环路"变得容易接入所做的一次尝试。"}