基于特征缓存与分布式并行的扩散模型推理加速方法

AITNT
正文
推荐专利
基于特征缓存与分布式并行的扩散模型推理加速方法
申请号:CN202510789864
申请日期:2025-06-13
公开号:CN120745799A
公开日期:2025-10-03
类型:发明专利
摘要
本申请涉及一种基于特征缓存与分布式并行的扩散模型推理加速方法,通过启发式搜索算法探索缓存方法,并确认需要缓存的时间步骤对应的特征;根据缓存方案进行分布式推理。解决了现有扩散模型在高分辨率图像生成场景下图像生成任务中的效率问题;基于特征缓存和分布式的推理架构来高效地处理扩散模型的推理过程,提高资源利用率与推理效率。
技术关键词
启发式搜索算法 缓存方法 缓存策略 染色体 遗传算法 推理架构 计算机设备 数据 加速系统 生成场景 计算机程序产品 处理器 模块 语句 可读存储介质 图片 图像 存储器
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号