AI工具导航

GitHub

将每个提示路由到能够处理它的最便宜模型

GitHub 是什么?

这是 GitHub 上基于 pydantic-ai 和 FastAPI 构建的 AI API 成本优化模板,它能根据提示词的复杂程度自动将请求路由到能处理该任务的最便宜模型上,复杂任务分配给 Claude、简单任务交给 Groq,帮你避免在 AI API 上过度付费。它原生支持 Claude、GPT-4o、GPT-4o-mini 和 Groq,自带实时成本追踪功能,10 分钟内就能接入现有项目,同时提供完整源代码、测试套件和部署教程。

产品详细介绍

将每个提示路由到能够处理它的最便宜模型

这是 GitHub 上基于 pydantic-ai 和 FastAPI 构建的 AI API 成本优化模板,它能根据提示词的复杂程度自动将请求路由到能处理该任务的最便宜模型上,复杂任务分配给 Claude、简单任务交给 Groq,帮你避免在 AI API 上过度付费。它原生支持 Claude、GPT-4o、GPT-4o-mini 和 Groq,自带实时成本追踪功能,10 分钟内就能接入现有项目,同时提供完整源代码、测试套件和部署教程。

定价方案

需要付费
官网查看
定制方案
  • 暂未采集到具体套餐,价格以官网为准

查看官网价格

创始人评论

Wade Allen
Wade Allen创始人

嘿,我是在看到我们的API成本逐月攀升之后搭建了这个项目。核心见解是,采用结构化Pydantic输出的复杂度分类是大多数路由框架都忽略的关键部分。一旦你获得了可靠的分类,路由就变得轻而易举了。欢迎随时提问关于实现的问题,或者帮助任何人将其集成到他们的技术栈中。

创始团队

Wade Allen
Wade Allen创始团队

官网信息

官网https://github.com/Reactance0083
公司使命

GitHub 是用于版本控制和协作的代码托管平台,它允许开发人员在任何地点协同开展项目工作。

成立时间

2008

所在地

San Francisco, California, USA