摘要
本发明公开了一种面向轻量卷积神经网络的训练后量化方法、装置,该方法包括读取图像数据;构建浮点模型和量化后模型,基于随机预处理和打乱顺序后的图像批次,逐块地对浮点模型和量化后模型中的每个模型块进行输出特征图的重建,并计算输出特征图重建的损失;基于特征图重建的损失,对量化后模型的每个模型块的批归一化参数和量化参数进行梯度更新和学习。本发明通过对图像数据进行逐块地预处理和随机打乱顺序,提高了模型对输入数据的泛化能力,避免了模型过拟合;通过逐块学习并更新批归一化层参数、权重缩放因子和激活缩放因子,可以在量化过程中细致调整模型参数,在低比特量化下仍保持较高的模型精度。
技术关键词
轻量卷积神经网络
输出特征
读取图像数据
参数
模型块
因子
优化量化模型
查询特征
优化器
注意力
传播算法
处理器通信
总量
存储器
通道
矩阵
系统为您推荐了相关专利信息
生理
Android设备
注意力机制
全局平均池化
卷积神经网络模型
剩余使用寿命估计
变压器
计算机可执行指令
指数
优化预测模型
字符编码识别方法
迁移学习策略
训练检测模型
字符检测模型
字符识别模型
智能生成方法
系统动力学模型
报表
元胞自动机
设备运行参数