摘要
本申请实施例提供了一种卷积神经网络的量化方法、设备、存储介质及程序产品,涉及人工智能技术领域,该方法包括:将待量化卷积神经网络中的初始卷积层划分为多个子卷积层;分别对各个子卷积层进行量化处理,并基于各个子卷积层的量化结果,获得目标卷积层;在相同输入参数下,计算所述待量化卷积神经网络的输出和目标卷积神经网络的输出之间的相似度,并在确定所述相似度大于预设相似度阈值时,以所述目标卷积神经网络作为量化后的卷积神经网络,所述目标卷积神经网络是使用所述目标卷积层替换所述待量化卷积神经网络中的初始卷积层得到的。
技术关键词
量化卷积神经网络
矩阵
计算机设备
特征值
处理器芯片
计算机程序产品
通道
可读存储介质
人工智能技术
存储器
参数
指令
关系
系统为您推荐了相关专利信息
模拟退火算法
优化装置
数学模型
状态空间模型
动态
关节型机器人
旋转变换矩阵
坐标系
机器人运动轨迹
实时控制技术