AI工具导航

Agens Volundr 32B Preview

Open 32B 模型:其 72 层中仅 18 层保留 KV 缓存。

Agens Volundr 32B Preview 是什么?

Agens Volundr 32B Preview 是一款面向智能体与长时任务场景的开源 32B 稠密模型,采用混合架构——72 层中仅 18 层保留 KV 缓存,其余 54 层使用固定大小的线性注意力状态,使 262K 超长上下文在单卡 48GB 显存上依然经济可行。在 BF16、双 48GB GPU 配置下,128K 上下文仍能保持 23.9 tok/s 的解码速度,同时支持 BF16 与 INT4 量化,遵循 Apache-2.0 开源协议。

产品详细介绍

Open 32B 模型:其 72 层中仅 18 层保留 KV 缓存。

Agens Volundr 32B Preview 是一款面向智能体与长时任务场景的开源 32B 稠密模型,采用混合架构——72 层中仅 18 层保留 KV 缓存,其余 54 层使用固定大小的线性注意力状态,使 262K 超长上下文在单卡 48GB 显存上依然经济可行。在 BF16、双 48GB GPU 配置下,128K 上下文仍能保持 23.9 tok/s 的解码速度,同时支持 BF16 与 INT4 量化,遵循 Apache-2.0 开源协议。

定价方案

需要付费
官网查看
定制方案
  • ✓

    暂未采集到具体套餐,价格以官网为准

创始人评论

Blockway
Blockway创始人

嗨,Product Hunt!

我们是 Blockway,一个位于香港的小团队。我们的客户在自己的机器上运行模型,因此我们关心的问题在于长上下文场景下的内存占用。

在传统模型中,每个注意力层都会维护一个随对话长度增长的 KV 缓存。而在 Volundr 中,72 层中只有 18 层这样做;另外 54 层是采用固定大小状态的线性注意力层。随着上下文增长,解码速度几乎保持平稳:在 8K 时为 24.1 tok/s,在 128K 时为 23.9 tok/s(BF16 精度,两块 48GB GPU,单用户)。

在我们的基准测试中(所有模型均由我们在同一测试平台上以相同设置运行),它在 LiveCodeBench v6、HumanEval、AIME 2025 和 MATH-500 上均领先于 Qwen3.8-27B。在这个 Preview 版本中,长时智能体任务的表现稍逊;缩小这一差距是完整版 v1 的重点。

目前为 Preview 版本:开放权重,Apache-2.0 协议,支持 BF16 和 INT4。它运行在我们开源的 sglang 构建版本上(原生 sglang 和 vLLM 目前尚无法加载),GGUF 版本正在规划中。

我们真诚地希望听到它在哪些场景下会出问题。我们全天都在。

创始团队

Blockway
BlockwayAI models, agents & private deployment