- ✓
暂未采集到具体套餐,价格以官网为准
Troxen | Put a ceiling on your LLM spend
AI API 网关:严格的按用户预算限制与缓存功能
Troxen | Put a ceiling on your LLM spend 是什么?
Troxen 是一款专为 LLM 应用设计的 AI API 网关,能够为每个用户设定硬性预算上限,彻底杜绝超支风险。它内置语义缓存功能,可自动识别相似请求并复用回答,大幅降低调用成本;配合紧急 kill-switch 开关,让你在异常情况下随时一键切断流量。目前已开放早期访问候补名单。
产品详细介绍
AI API 网关:严格的按用户预算限制与缓存功能
Troxen 是一款专为 LLM 应用设计的 AI API 网关,能够为每个用户设定硬性预算上限,彻底杜绝超支风险。它内置语义缓存功能,可自动识别相似请求并复用回答,大幅降低调用成本;配合紧急 kill-switch 开关,让你在异常情况下随时一键切断流量。目前已开放早期访问候补名单。
定价方案
需要付费创始人评论
Product Hunt 的朋友们好!👋
我之所以打造 Troxen,是因为我一次次目睹开发者和初创公司因为 AI API 账单没有限额而损失巨额资金。
直接对接 OpenAI 或 Anthropic 等服务提供商,会让你的信用卡暴露在突发流量激增和失控脚本的风险之下。更麻烦的是,限流和缓存都要自己处理——自定义方案经常被覆盖、配置出错,最终给终端用户带来持续的 API 错误。
我希望能打造一个可靠的、即插即用的安全网,承担所有繁重的工作,而不必让开发者反复重写自定义网关逻辑。
Troxen 是一个专为 AI 工作负载打造的即插即用 API 代理网关:
• 严格的单用户预算:为每个用户 ID 设置严格的支出上限,在调用服务提供商之前就拦截失控用量。
• 语义缓存:在整个用户群范围内缓存重复的提示词,使相同的请求成本为零,避免对服务提供商的重复调用。
• 一行代码集成:只需将 SDK 中的 base URL 替换为 proxy.troxen.dev/v1 即可。
今天我们正式开放私测等待名单!非常期待听到你的反馈、解答任何技术问题,也想知道你在 API 网关中最需要哪些功能。
创始团队
官网信息
位于您的应用与每个 LLM 提供商之间的网关——强制执行每用户预算、从语义缓存中提供重复答案,并拒绝任何您未授权的支出。