摘要
本申请涉及一种基于特征缓存与分布式并行的扩散模型推理加速方法,通过启发式搜索算法探索缓存方法,并确认需要缓存的时间步骤对应的特征;根据缓存方案进行分布式推理。解决了现有扩散模型在高分辨率图像生成场景下图像生成任务中的效率问题;基于特征缓存和分布式的推理架构来高效地处理扩散模型的推理过程,提高资源利用率与推理效率。
技术关键词
启发式搜索算法
缓存方法
缓存策略
染色体
遗传算法
推理架构
计算机设备
数据
加速系统
生成场景
计算机程序产品
处理器
模块
语句
可读存储介质
图片
图像
存储器