- ✓
暂未采集到具体套餐,价格以官网为准
Kelvane
在 WebAssembly 沙箱中安全运行不可信 AI 模型
Kelvane 是什么?
Kelvane 是一个专为运行不可信 AI 模型设计的 WebAssembly 沙箱,基于成熟的 Wasmtime 与 ONNX 构建,每次推理都在独立的隔离环境中执行,配备严格的内存上限和 CPU 预算,模型本身由宿主持有、模块无权访问。它不追求大而全,而是把"安全运行陌生神经网络"这件事做到极致,支持模型热插拔,定位为一个经过充分测试的小型集成方案,而非新技术。
产品详细介绍
在 WebAssembly 沙箱中安全运行不可信 AI 模型
Kelvane 是一个专为运行不可信 AI 模型设计的 WebAssembly 沙箱,基于成熟的 Wasmtime 与 ONNX 构建,每次推理都在独立的隔离环境中执行,配备严格的内存上限和 CPU 预算,模型本身由宿主持有、模块无权访问。它不追求大而全,而是把"安全运行陌生神经网络"这件事做到极致,支持模型热插拔,定位为一个经过充分测试的小型集成方案,而非新技术。
定价方案
需要付费创始人评论
我是 Rakib。我一直遇到同一个尴尬的问题:要运行别人训练好的神经网络——不管是下载的模型、自动更新的策略,还是第三方提供的内容——你最终都得运行他们的代码,这意味着你必须完全信任它。模型确实能做推理,但它外面的包装代码可以访问你的文件、网络,以及这个进程能触及的任何资源。
Kelvane 就是我针对这个问题给出的一个简洁可靠的解决方案。每次推理都在全新的 WebAssembly 沙箱中运行,设有硬性内存上限、每次调用的 CPU 预算,并且完全没有环境权限——没有文件系统访问权,没有网络访问权,没有任何 I/O 权限。模型始终归主机所有,因此不可信模块只能请求预测,永远无法接触权重或加速器。而且你可以热交换正在运行的模块,无需重启服务。
有两件事我想提前直说:
- 它只是对成熟组件(Wasmtime、ONNX)的集成,并非全新发明——它的价值在于一个面向单一任务、小巧可审计且经过充分测试的汇编程序。
- 它目前还处于早期版本(v0.x,仅支持玩具规模),但确实经过了认真测试:有文档化的威胁模型、29 个对抗性测试用例、经过补丁修复的引擎,还有公开的真实基准测试(包括那些结果不太好看的)。
它是开源项目(Apache-2.0 许可证)。我非常重视大家对沙箱设计的反馈,也想知道“安全运行不可信模型”这个定位是否有不当之处。欢迎随时提问!
创始团队
官网信息
安全运行您不完全信任的神经策略,并支持在线热切换。