LLMCap

对大型语言模型API调用的硬性美元上限。当触发该上限时，调用将被终止。

LLMCap 是一款用于 LLM API 调用的反向代理工具，可以帮你给大模型 API 调用设置硬性美元额度上限。只需修改一行 base_url 配置并设置额度，当消耗触顶后，新请求会直接返回 429 错误，不会产生额外费用，支持 Anthropic、OpenAI、Gemini 等主流提供商，仅增加不到 35 毫秒延迟，还提供实时消费看板和审计日志。