AI工具导航

fast_trimul

一个用于快速三角乘法更新的即插即用库

fast_trimul 是什么?

fast_trimul 是一个基于 CuTe DSL 的即插即用式硬件无关库,专为 AlphaFold3 系列模型提供融合的 Triangle Multiplicative Updates 算子优化,可直接替换原有实现。它能将显存占用缩减至原先的一半左右,并几乎消除激活数据,对短序列场景的推理速度提升尤为显著。

产品详细介绍

一个用于快速三角乘法更新的即插即用库

fast_trimul 是一个基于 CuTe DSL 的即插即用式硬件无关库,专为 AlphaFold3 系列模型提供融合的 Triangle Multiplicative Updates 算子优化,可直接替换原有实现。它能将显存占用缩减至原先的一半左右,并几乎消除激活数据,对短序列场景的推理速度提升尤为显著。

定价方案

需要付费
官网查看
定制方案
  • 暂未采集到具体套餐,价格以官网为准

创始人评论

Tiago Monteiro
Tiago Monteiro创始人

AlphaFold 的创造者们于 2024 年获得了诺贝尔奖。我通过 CUDA 内核让其开源 AI 模型家族的运行速度变得更快。

我创建了 fast_trimul,这是一个即插即用的 Python 库,可在 AlphaFold3 系列模型中实现融合三角乘法更新(Fused Triangle Multiplicative Updates)。

它采用模块化架构,设计上注重在生产环境中易于使用,并且可在 OpenFold3 和 Protenix 上运行。

CUDA 内核使用 Python CuTe DSL 编写,因此内核代码库保持精简,且易于适配 H100 或 B200 等其他 GPU。

GitHub:https://github.com/tiagomonteiro...

LinkedIn:https://lnkd.in/p/gFGnV3JA

创始团队

Tiago Monteiro
Tiago MonteiroMS AI @ Northeastern | ECE Background