一种基于动态敏感度的扩散模型混合精度量化方法

本申请提供的一种基于动态敏感度的扩散模型混合精度量化方法、装置和电子设备，包括设置位宽指示器以及设置量化参数，位宽指示器表示各层中的权重位宽和激活位宽之间的组合，量化参数包括缩放因子和零点值；基于最小化全精度网络和各预设位宽下的量化网络之间的输出差异，优化多位宽下的量化参数；基于权重量化过程中的缩放因子和在激活量化过程中的缩放因子的加权和，得到任意层在各时间步上的量化敏感度；在给定资源约束下，最小化所有时间步上各层敏感度之和，得到自适应位宽配置策略，并得到混合精度的量化扩散模型，能够根据扩散模型在去噪时间步上的量化敏感度动态调整网络层的比特宽度分配，从而能够更好地适应去噪过程中的敏感性变化。