摘要
本发明公开了一种基于模型学习的扩散模型推理加速系统及方法,属于人工智能生成内容领域,包括步骤数裁剪模块,用于对扩散模型推理中的去噪计算过程的计算步骤进行压缩;任务节点匹配模块,用于将计算任务分配调度到云‑边协同网络系统的计算节点上。本发明采用上述的一种基于模型学习的扩散模型推理加速系统及方法,提出的云边协同框架,利用步数压缩和任务调度两方面策略,实现了用户使用扩散模型执行文生图推理计算任务下的计算加速,并且在推理过程中能够保证图像质量。
技术关键词
加速系统
协同网络系统
节点
任务调度策略
裁剪模块
匹配模块
任务调度模型
表达式
多头注意力机制
种子
动作策略
更新系统
图像
状态更新
资源
解码