AI工具导航

Troxen | Put a ceiling on your LLM spend

AI API 网关:严格的按用户预算限制与缓存功能

Troxen | Put a ceiling on your LLM spend 是什么?

Troxen 是一款专为 LLM 应用设计的 AI API 网关,能够为每个用户设定硬性预算上限,彻底杜绝超支风险。它内置语义缓存功能,可自动识别相似请求并复用回答,大幅降低调用成本;配合紧急 kill-switch 开关,让你在异常情况下随时一键切断流量。目前已开放早期访问候补名单。

产品详细介绍

AI API 网关:严格的按用户预算限制与缓存功能

Troxen 是一款专为 LLM 应用设计的 AI API 网关,能够为每个用户设定硬性预算上限,彻底杜绝超支风险。它内置语义缓存功能,可自动识别相似请求并复用回答,大幅降低调用成本;配合紧急 kill-switch 开关,让你在异常情况下随时一键切断流量。目前已开放早期访问候补名单。

定价方案

需要付费
官网查看
定制方案
  • 暂未采集到具体套餐,价格以官网为准

查看官网价格

创始人评论

Zain Ul Abidin
Zain Ul Abidin创始人

Product Hunt 的朋友们好!👋

我之所以打造 Troxen,是因为我一次次目睹开发者和初创公司因为 AI API 账单没有限额而损失巨额资金。

直接对接 OpenAI 或 Anthropic 等服务提供商,会让你的信用卡暴露在突发流量激增和失控脚本的风险之下。更麻烦的是,限流和缓存都要自己处理——自定义方案经常被覆盖、配置出错,最终给终端用户带来持续的 API 错误。

我希望能打造一个可靠的、即插即用的安全网,承担所有繁重的工作,而不必让开发者反复重写自定义网关逻辑。

Troxen 是一个专为 AI 工作负载打造的即插即用 API 代理网关:

• 严格的单用户预算:为每个用户 ID 设置严格的支出上限,在调用服务提供商之前就拦截失控用量。

• 语义缓存:在整个用户群范围内缓存重复的提示词,使相同的请求成本为零,避免对服务提供商的重复调用。

• 一行代码集成:只需将 SDK 中的 base URL 替换为 proxy.troxen.dev/v1 即可。

今天我们正式开放私测等待名单!非常期待听到你的反馈、解答任何技术问题,也想知道你在 API 网关中最需要哪些功能。

创始团队

Zain Ul Abidin
Zain Ul AbidinBuilding Troxen | UI/UX & AI

官网信息

官网https://www.troxen.dev/?ref=producthunt
公司使命

位于您的应用与每个 LLM 提供商之间的网关——强制执行每用户预算、从语义缓存中提供重复答案,并拒绝任何您未授权的支出。