AI工具导航

Kelvane

在 WebAssembly 沙箱中安全运行不可信 AI 模型

Kelvane 是什么?

Kelvane 是一个专为运行不可信 AI 模型设计的 WebAssembly 沙箱,基于成熟的 Wasmtime 与 ONNX 构建,每次推理都在独立的隔离环境中执行,配备严格的内存上限和 CPU 预算,模型本身由宿主持有、模块无权访问。它不追求大而全,而是把"安全运行陌生神经网络"这件事做到极致,支持模型热插拔,定位为一个经过充分测试的小型集成方案,而非新技术。

产品详细介绍

在 WebAssembly 沙箱中安全运行不可信 AI 模型

Kelvane 是一个专为运行不可信 AI 模型设计的 WebAssembly 沙箱,基于成熟的 Wasmtime 与 ONNX 构建,每次推理都在独立的隔离环境中执行,配备严格的内存上限和 CPU 预算,模型本身由宿主持有、模块无权访问。它不追求大而全,而是把"安全运行陌生神经网络"这件事做到极致,支持模型热插拔,定位为一个经过充分测试的小型集成方案,而非新技术。

定价方案

需要付费
官网查看
定制方案
  • ✓

    暂未采集到具体套餐,价格以官网为准

查看官网价格

创始人评论

Rakib
Rakib创始人

我是 Rakib。我一直遇到同一个尴尬的问题:要运行别人训练好的神经网络——不管是下载的模型、自动更新的策略,还是第三方提供的内容——你最终都得运行他们的代码,这意味着你必须完全信任它。模型确实能做推理,但它外面的包装代码可以访问你的文件、网络,以及这个进程能触及的任何资源。

Kelvane 就是我针对这个问题给出的一个简洁可靠的解决方案。每次推理都在全新的 WebAssembly 沙箱中运行,设有硬性内存上限、每次调用的 CPU 预算,并且完全没有环境权限——没有文件系统访问权,没有网络访问权,没有任何 I/O 权限。模型始终归主机所有,因此不可信模块只能请求预测,永远无法接触权重或加速器。而且你可以热交换正在运行的模块,无需重启服务。

有两件事我想提前直说:

- 它只是对成熟组件(Wasmtime、ONNX)的集成,并非全新发明——它的价值在于一个面向单一任务、小巧可审计且经过充分测试的汇编程序。

- 它目前还处于早期版本(v0.x,仅支持玩具规模),但确实经过了认真测试:有文档化的威胁模型、29 个对抗性测试用例、经过补丁修复的引擎,还有公开的真实基准测试(包括那些结果不太好看的)。

它是开源项目(Apache-2.0 许可证)。我非常重视大家对沙箱设计的反馈,也想知道“安全运行不可信模型”这个定位是否有不当之处。欢迎随时提问!

创始团队

Rakib
RakibLaw student × data science × code

官网信息

官网https://github.com/rakib-nyc/kelvane
公司使命

安全运行您不完全信任的神经策略,并支持在线热切换。