FrugaLLM

{"translation":"这最初源于我想试试 Nous Research 的 Hermes 模型，但我不想把信用卡绑定到一个黑盒计费系统上。\n\n于是我 fork 了 LiteLLM，自己搭了一个代理来管理与 OpenRouter 和 Google AI Studio 的连接（两者都提供慷慨的免费额度，只需简单的 API 连接即可使用）。\n\n我还花了些时间，尝试在一块 16GB 的游戏显卡上跑本地 LLM。虽然我认为这是 AI 的未来，但当时的性能还不足以运行 Hermes。不过，运行本地 LLM 的功能已经集成在这个应用里了，它会帮你通过 Ollama 安装 Google 的 Gemma 4 模型。\n\n如果你是一个花了很多时间和 AI 聊天、却不知道如何迈出下一步进入开源和"Vibe Coding"的人，那这个应用就是为你打造的！"}