一种模型压缩方法及装置

本申请公开了一种模型压缩方法及装置，涉及模型压缩技术领域，模型压缩方法包括：以减少参数数量为目标，对目标模型每层的每个权重矩阵进行压缩，得到目标模型每层的每个权重矩阵的第一压缩权重矩阵；针对每个第一压缩权重矩阵，对第一压缩权重矩阵在通道维度进行分组，得到若干通道组；从每个通道组中筛选目标通道，任一通道组中目标通道的通道能量高于该通道组中非目标通道的通道能量；通过对第一压缩权重矩阵中的目标通道进行旋转操作来平滑第一压缩权重矩阵的分布，得到第二压缩权重矩阵；采用分段量化策略对第二压缩权重矩阵进行量化。本申请公开的模型压缩方法能够有效减少目标模型的参数量，且能够降低存储占用、提升计算效率。