官网查看
定制方案
- ✓
暂未采集到具体套餐,价格以官网为准
在大语言模型 API 账单产生之前就止住它,而不是事后补救
baar-core 是一款帮助你控制 LLM API 开销的开源工具,它会在每次 API 调用前检查预算,一旦超出限额就会在本地触发异常中断请求,从源头避免意外产生高额账单。它支持语义路由降低 84% 成本、按用户分配配额,同时兼容 LangGraph 与 FastAPI,可通过 pip 直接安装。
在大语言模型 API 账单产生之前就止住它,而不是事后补救
baar-core 是一款帮助你控制 LLM API 开销的开源工具,它会在每次 API 调用前检查预算,一旦超出限额就会在本地触发异常中断请求,从源头避免意外产生高额账单。它支持语义路由降低 84% 成本、按用户分配配额,同时兼容 LangGraph 与 FastAPI,可通过 pip 直接安装。
暂未采集到具体套餐,价格以官网为准
嘿 Product Hunt 的朋友们!👋
我很乐意解答关于它底层工作原理的任何问题。
有一件事我真的很好奇:你们目前在自己的智能代理中是如何控制 LLM 成本的?是用账单告警?还是服务商侧的硬限额?还是目前还没做任何措施?
我开发 baar-core 是因为我找不到任何能在 API 调用**之前**就发挥作用的工具。我很想知道其他人是否也遇到了同样的问题,或是用了不同的方法解决。
在大语言模型 API 调用发生之前阻止它,而非事后补救。