AI工具导航

ShipSafe

FastAPI 的 LLM 成本护栏 — 按密钥限额与硬性截止

ShipSafe 是什么?

ShipSafe 是一款专为 FastAPI 打造的 LLM 成本防护中间件,支持为每个 API Key 设置每日和月度消费上限,超额时自动以 HTTP 402 硬中断请求,并提供一键冻结所有支出的紧急开关。它以极简的接入方式防止失控的 Agent 循环把一次 $0.02 的调用拖成天价账单,为 LLM 应用在上线前加上一道可靠的安全闸门。

产品详细介绍

FastAPI 的 LLM 成本护栏 — 按密钥限额与硬性截止

ShipSafe 是一款专为 FastAPI 打造的 LLM 成本防护中间件,支持为每个 API Key 设置每日和月度消费上限,超额时自动以 HTTP 402 硬中断请求,并提供一键冻结所有支出的紧急开关。它以极简的接入方式防止失控的 Agent 循环把一次 $0.02 的调用拖成天价账单,为 LLM 应用在上线前加上一道可靠的安全闸门。

定价方案

需要付费
官网查看
定制方案
  • ✓

    暂未采集到具体套餐,价格以官网为准

创始人评论

Vittoria
Vittoria创始人

你好,我是 Vittoria (vittoriali) —— 后端工程师。我搭建 ShipSafe,是因为我在每个 AI 项目里都反复重建同一层并不性感的组件:LLM 调用的支出护栏。

简单来说:一次失控的智能体循环或重试风暴,能在一夜之间把一笔 0.02 美元的调用变成四位数的账单,而服务商后台等你发现时钱已经花光了。ShipSafe 在每次 LLM 调用前加上预检支出检查 —— 按 API 密钥设置的每日和每月上限、密钥一旦超预算立即硬性截断 (HTTP 402),以及一个能在几秒内冻结所有支出的紧急关停开关。

仓库内置了 OpenAI/Anthropic 的定价表,遇到未知的模型价格会显式失败(拦截并告警),绝不会悄悄低估费用。

坦率地讲它的局限:仅有后端(没有前端),基于 FastAPI + Postgres + Redis,每次 LLM 调用会增加一次轻量的预检查询。如果你每月 LLM 支出只有 5 美元,那你现在还用不到它 —— 它面向的是账单真正会让人肉疼的人。

预售价 49 美元,全额可退款,在 v1 发布时可抵扣 249 美元的正式售价。早期购买者第一天就能拿到仓库代码,并有权对路线图投票。

我非常期待大家对设计本身的反馈:预算粒度应该按密钥还是按租户,以及在生产环境你会直接部署硬性 402 截断,还是先警告放行。请尽管挑刺 —— 这正是我来这里的目的。

https://vittoriali.gumroad.com/l...

创始团队

Vittoria
Vittoria创始团队