$0/免费
免费
- ✓
所有模型
- ✓
提供商零价格加价
- ✓
自带密钥访问
大语言模型调用交易平台
Auriko 是面向大语言模型调用的交易桌平台,由前量化交易员打造,它将不同大语言模型服务商视为交易场所,通过成本套利引擎捕捉价差机会。该平台会根据用户的请求模式做校准,结合代币价格、缓存行为、延迟、可靠性和请求质量选择最优推理路径,实测相比同行和直接服务商平均降低 30% 成本。
大语言模型调用交易平台
Auriko 是面向大语言模型调用的交易桌平台,由前量化交易员打造,它将不同大语言模型服务商视为交易场所,通过成本套利引擎捕捉价差机会。该平台会根据用户的请求模式做校准,结合代币价格、缓存行为、延迟、可靠性和请求质量选择最优推理路径,实测相比同行和直接服务商平均降低 30% 成本。
所有模型
提供商零价格加价
自带密钥访问
免费版中的所有功能
供应商零加价
确定性路由
SSO/SAML
自定义服务水平协议
专属支持
我之前是一名量化交易员,做期权交易。当我开始开发AI智能体时,需要在不同推理提供商之间快速切换模型。作为交易员,我出于强迫症总想找到最低价,这驱使我不断去弄清楚哪家提供商最便宜。
这让我们陷入了对比推理成本的深坑。我们意识到,成本不仅仅是公开的输入/输出token价格。我们的很大一部分开支来自缓存定价、缓存命中效率和路由选择。
最终我们构建了一个系统来优化所有这些问题,并将它打造成了 auriko.ai。
通过缓存感知大语言模型路由降低推理成本