一种模型量化方法、装置及介质

本申请公开了一种模型量化方法、装置及介质，该方法包括：对预训练模型量化得到初始量化模型，并确定插入初始量化模型中的提升模块的目标数量。将初始量化模型划分为目标数量个骨干网络模块；为各骨干网络模块并联插入一个提升模块，得到包括多个目标单元的待优化模型；目标单元包括提升模块和骨干网络模块；依次对待优化模型中各目标单元进行优化，得到中间优化模型；通过预设损失函数对中间优化模型进行全局优化，得到目标优化模型。由此，在初始量化模型中插入提升模块得到待优化模型，即，在初始量化模型中增加计算复杂度以提升计算精度。进一步的，依次对待优化模型进行局部和全局优化，得到高运行速度和高计算精度的目标优化模型。