摘要
本发明公开了基于图像对抗样本感知和梯度优化的混合精度量化方法,涉及混合精度量化领域。该方法包括:输入原始RGB图像样本且固定位宽组合,优化MPQ‑CNN的网络权重;生成与每个RGB图像原始样本对应的最优扰动分数,并得以生成RGB图像对抗样本;使用MPQ‑CNN预测RGB图像对抗样本类别,并使用预测类别的概率分布与真实类别的独热编码向量生成的交叉熵损失指导MPQ‑CNN量化器的量化参数优化,从而更新MPQ‑CNN的位宽组合;重复多次前述过程,完成一轮MPQ‑CNN训练过程;重复多轮后,将每一轮搜索出的MPQ‑CNN最优的量化器的量化参数和网络权重,在验证集上评估,找到令验证集的交叉熵损失最小的MPQ‑CNN的网络权重和量化器的量化参数,进而确定最优的MPQ‑CNN的位宽组合。
技术关键词
梯度下降算法
样本
生成RGB图像
编码向量
神经网络参数
预测类别
精度
随机梯度下降
图像类别
复杂度
数据
代表
通道
系统为您推荐了相关专利信息
烟草卷接设备
搜索算法
神经网络模型
反向传播方法
拼接工艺
检测控制方法
时序特征
建立远程通信
网络传输控制
校验编码