AI工具导航

baar-core

在大语言模型 API 账单产生之前就止住它,而不是事后补救

baar-core 是什么?

baar-core 是一款帮助你控制 LLM API 开销的开源工具,它会在每次 API 调用前检查预算,一旦超出限额就会在本地触发异常中断请求,从源头避免意外产生高额账单。它支持语义路由降低 84% 成本、按用户分配配额,同时兼容 LangGraph 与 FastAPI,可通过 pip 直接安装。

产品详细介绍

在大语言模型 API 账单产生之前就止住它,而不是事后补救

baar-core 是一款帮助你控制 LLM API 开销的开源工具,它会在每次 API 调用前检查预算,一旦超出限额就会在本地触发异常中断请求,从源头避免意外产生高额账单。它支持语义路由降低 84% 成本、按用户分配配额,同时兼容 LangGraph 与 FastAPI,可通过 pip 直接安装。

定价方案

需要付费
官网查看
定制方案
  • 暂未采集到具体套餐,价格以官网为准

查看官网价格

创始人评论

Robat Das
Robat Das创始人

嘿 Product Hunt 的朋友们!👋

我很乐意解答关于它底层工作原理的任何问题。

有一件事我真的很好奇:你们目前在自己的智能代理中是如何控制 LLM 成本的?是用账单告警?还是服务商侧的硬限额?还是目前还没做任何措施?

我开发 baar-core 是因为我找不到任何能在 API 调用**之前**就发挥作用的工具。我很想知道其他人是否也遇到了同样的问题,或是用了不同的方法解决。

创始团队

Robat Das
Robat Das创始团队

官网信息

官网https://baar.robatdasorvi.com/
公司使命

在大语言模型 API 调用发生之前阻止它,而非事后补救。