卷积神经网络的量化方法、设备、存储介质及程序产品

AITNT
正文
推荐专利
卷积神经网络的量化方法、设备、存储介质及程序产品
申请号:CN202411135385
申请日期:2024-08-16
公开号:CN118862966A
公开日期:2024-10-29
类型:发明专利
摘要
本申请实施例提供了一种卷积神经网络的量化方法、设备、存储介质及程序产品,涉及人工智能技术领域,该方法包括:将待量化卷积神经网络中的初始卷积层划分为多个子卷积层;分别对各个子卷积层进行量化处理,并基于各个子卷积层的量化结果,获得目标卷积层;在相同输入参数下,计算所述待量化卷积神经网络的输出和目标卷积神经网络的输出之间的相似度,并在确定所述相似度大于预设相似度阈值时,以所述目标卷积神经网络作为量化后的卷积神经网络,所述目标卷积神经网络是使用所述目标卷积层替换所述待量化卷积神经网络中的初始卷积层得到的。
技术关键词
量化卷积神经网络 矩阵 计算机设备 特征值 处理器芯片 计算机程序产品 通道 可读存储介质 人工智能技术 存储器 参数 指令 关系
系统为您推荐了相关专利信息
1
一种基于模拟退火算法改进DMPC的库内作业全流程优化方法、装置及系统
模拟退火算法 优化装置 数学模型 状态空间模型 动态
2
一种联合蚁群算法与神经网络的PCB布线路径搜索方法
布线 路径搜索方法 蚂蚁 蚁群算法 核心
3
基于时空耦合模型的高速公路路域风险智能预警方法及系统
耦合特征 嵌入特征 风险 预警模型 预警规则
4
基于STR分型与残差矩阵分析的混合DNA样本供体比例分析方法
残差矩阵 比例分析方法 位点 供体 样本
5
一种关节型机器人实时位姿调整方法及装置
关节型机器人 旋转变换矩阵 坐标系 机器人运动轨迹 实时控制技术
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号