AI工具导航

Forgestack

开源 LLM 技术栈,几分钟内即可部署到您的云端

Forgestack 是什么?

Forgestack 是一款开源大模型部署工具,可从 20 个开放模型中选择,并连接 AWS 或 GCP,在你自己的云账户中快速部署模型、RAG 知识库和聊天 API,数据不会离开云端。它支持通过 LoRA 微调模型,并能在不修改 API 的情况下切换模型,发布期间免费使用。

产品详细介绍

开源 LLM 技术栈,几分钟内即可部署到您的云端

Forgestack 是一款开源大模型部署工具,可从 20 个开放模型中选择,并连接 AWS 或 GCP,在你自己的云账户中快速部署模型、RAG 知识库和聊天 API,数据不会离开云端。它支持通过 LoRA 微调模型,并能在不修改 API 的情况下切换模型,发布期间免费使用。

定价方案

需要付费
官网查看
定制方案
  • ✓

    暂未采集到具体套餐,价格以官网为准

创始人评论

Krishna Paudel
Krishna Paudel创始人

• 你为什么构建它:例如,有些团队希望对内部文档使用大语言模型(LLM),但无法将这些数据发送给 OpenAI。

• 它如何工作,用三行说明。

• 真实成本:免费层模型在 t3.micro 上运行,7B 模型需要 GPU,成本约为每小时 1 美元,云服务商则直接向用户收费。

• 一个用于开启讨论的具体问题,例如:“接下来应该添加哪些模型?”或者“你们会先选择 AWS 还是 GCP?”

创始团队

Krishna Paudel
Krishna PaudelTrying to ship products