摘要
本发明涉及卷积神经网络技术领域,公开了一种基于卷积神经网络的权重分段量化方法及装置,该方法包括:获取卷积神经网络的多个计算层中每一计算层的所有权重,计算层为卷积神经网络的带参数层,根据所有计算层的权重,从所有计算层中筛选出待分段量化的目标计算层,对于每一目标计算层,根据该目标计算层的所有权重,对该目标计算层的权重进行分段,得到该目标计算层的权重分段结果,对该目标计算层的第一权重组及第二权重组进行分段量化,得到该目标计算层的量化位宽。可见,实施本发明能够准确地筛选出需要分段量化的目标计算层,且能够准确地对各组权重进行量化,能够提高卷积神经网络中各层权重的量化精度,且有利于减少计算量。
技术关键词
分段
直方图
可执行程序代码
端点
卷积神经网络技术
计算机存储介质
方形
基准
存储器
模块
处理器
参数
指令
精度
系统为您推荐了相关专利信息
风险模型训练方法
图像处理手段
训练样本集
图像处理方式
局部特征提取
图像生成方法
文本
图像生成程序
分词
生成高分辨率
数据标注方法
亮度直方图
文本
多尺度滑动窗口
多模态