ContextGem 1.0

你好，Product Hunt！我是 Sergii，开发 ContextGem。

ContextGem 于 2025 年 4 月在这里发布，当时版本为 0.2。如今版本已更新至 1.0，变化 quite 多，值得再次向大家展示。

它为什么诞生

要从文档中可靠地提取信息，通常需要编写提示词、设计验证模型、将输出映射回原始来源，并跟踪不同模型的使用情况。使用 ContextGem，你只需用通俗的语言描述希望从文档中获取什么，剩下的工作都由它完成。它会生成提示词，将输出验证并转换为类型化值，还会将每项事实追溯到其来源段落或句子；如有需要，还会提供相应的理由说明。

首次发布以来的新变化

与 LLM 协同的决策模型。决策模型用于回答封闭式问题（是或否、预设标签之一、量表中的某一等级），并给出每个可能答案的对应概率，而且不会生成文本。对于需要大批量提出的问题，它速度快、成本低，阈值也完全由你设置。

为每个问题选择合适的模型。模型组会将开放式问题交给 LLM，将封闭式问题交给决策模型，并且任意模型都可以回退到其他模型。

原样处理你的文件。借助 Docling，ContextGem 支持 PDF（包括扫描件）、Office 文件、电子邮件、图片、音频、视频等多种格式。表格中的每一行都会保留对应的列标题，分页文件中的各项内容在返回时也会附带页码。

智能体工作流。在文档到达时提取其元数据、从智能体工具中调用提取功能，或让决策模型决定下一步操作。

云端或本地。通过 LiteLLM 接入 LLM（OpenAI、Anthropic、Google、Ollama、LM Studio 等），决策模型则可来自 TypeSafe、OpenAI、Microsoft Foundry 或你自己的服务器。

它不适合做什么

ContextGem 会深入阅读单份文档，包括其中的每一个段落。它不会跨语料库进行搜索，而这正是 RAG 框架更擅长的场景。

本项目免费且开源，采用 Apache 2.0 许可证：

uv add contextgem

期待你的反馈。关于文档的哪些问题，你会交给决策模型而不是 LLM？对你的使用场景而言，目前还缺少什么？

GitHub： https://github.com/shcherbak-ai/contextgem

文档： https://contextgem.shcherbak.ai