- ✓
暂未采集到具体套餐,价格以官网为准
StreamCtx
用于大语言模型应用的流式上下文数据库
StreamCtx 是什么?
StreamCtx 是专为 LLM 应用打造的流式上下文数据库。多数大语言模型应用缺少合适的记忆层,开发者往往需要拼凑 Redis、向量数据库和自定义代码才能实现基础的上下文管理,StreamCtx 解决了这个痛点,它提供实时上下文流式传输、持久化会话记忆能力,并且以 MIT/Apache 2.0 协议完全开源。
产品详细介绍
用于大语言模型应用的流式上下文数据库
StreamCtx 是专为 LLM 应用打造的流式上下文数据库。多数大语言模型应用缺少合适的记忆层,开发者往往需要拼凑 Redis、向量数据库和自定义代码才能实现基础的上下文管理,StreamCtx 解决了这个痛点,它提供实时上下文流式传输、持久化会话记忆能力,并且以 MIT/Apache 2.0 协议完全开源。
定价方案
需要付费官网查看
定制方案
创始人评论
M
Maker创始人
嘿 Product Hunt,我是 Sneh,是开发 StreamCtx 的独立创始人。
我一直遇到的问题是:在大语言模型应用中,没有好用的流式上下文基础组件。每次你都得重复写一模一样的样板粘合代码。
StreamCtx 就是我为解决这个问题做的尝试——开源、面向开发者。
欢迎大家给 GitHub 点星和提供反馈。
github.com/streamctx
官网信息
公司使命
适用于 OpenAI 和 Anthropic SDK 的零配置 LLM 调用追踪。可追踪令牌使用量、估算成本、检测重复上下文,并查看你可以节省多少开销。