基于卷积神经网络的权重分段量化方法及装置

AITNT
正文
推荐专利
基于卷积神经网络的权重分段量化方法及装置
申请号:CN202411052894
申请日期:2024-08-01
公开号:CN119204111A
公开日期:2024-12-27
类型:发明专利
摘要
本发明涉及卷积神经网络技术领域,公开了一种基于卷积神经网络的权重分段量化方法及装置,该方法包括:获取卷积神经网络的多个计算层中每一计算层的所有权重,计算层为卷积神经网络的带参数层,根据所有计算层的权重,从所有计算层中筛选出待分段量化的目标计算层,对于每一目标计算层,根据该目标计算层的所有权重,对该目标计算层的权重进行分段,得到该目标计算层的权重分段结果,对该目标计算层的第一权重组及第二权重组进行分段量化,得到该目标计算层的量化位宽。可见,实施本发明能够准确地筛选出需要分段量化的目标计算层,且能够准确地对各组权重进行量化,能够提高卷积神经网络中各层权重的量化精度,且有利于减少计算量。
技术关键词
分段 直方图 可执行程序代码 端点 卷积神经网络技术 计算机存储介质 方形 基准 存储器 模块 处理器 参数 指令 精度
系统为您推荐了相关专利信息
1
口腔黏膜恶性转化风险模型训练方法、系统、介质及设备
风险模型训练方法 图像处理手段 训练样本集 图像处理方式 局部特征提取
2
区分上下颌的活矫模型底座自动生成方法
自动生成方法 固定点 多边形底座 牙颌模型 分段
3
一种高分辨率图像生成方法、系统、终端及存储介质
图像生成方法 文本 图像生成程序 分词 生成高分辨率
4
一种多模态数据标注方法及系统、电子设备、存储介质
数据标注方法 亮度直方图 文本 多尺度滑动窗口 多模态
5
异常节点的监测方法、装置、设备及存储介质
网络 监测方法 源节点 数据 分段
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号