一种深度神经网络的自适应量化方法、系统及产品

AITNT
正文
推荐专利
一种深度神经网络的自适应量化方法、系统及产品
申请号:CN202410951375
申请日期:2024-07-16
公开号:CN118839736A
公开日期:2024-10-25
类型:发明专利
摘要
本申请实施例提供一种深度神经网络的自适应量化方法、系统及产品,该方法包括:对原始浮点模型的模型层设置量化组合节点,构建目标浮点模型;对目标浮点模型进行训练后量化,确定量化组合节点的量化参数;通过量化参数对量化组合节点进行量化参数设置,获得第一量化模型;在性能不满足设定条件情况下,将输入量化组合节点的量化节点的浮点数与该量化组合节点的反量化节点输出的浮点数进行对比,获得量化误差;根据获得的量化误差,确定第一量化模型中模型层的量化损失;根据量化损失,确定优化层;对优化层的量化位宽进行增加,并重新确定量化组合节点的量化参数,以构建新的量化模型。旨在提升模型的量化误差评估准确性。
技术关键词
深度神经网络 量化误差 节点 浮点数 参数 深度学习模型 嵌入式平台 量化系统 可读存储介质 处理器 模块 存储器 计算机 数据 电子设备
系统为您推荐了相关专利信息
1
基于耦合BP神经网络确定锅炉污泥掺烧量方法及系统
炉膛温度场 NOx排放量 污泥 脱硫系统 脱硝系统
2
一种多工序参数优化方法
非线性关联模型 参数优化方法 节点特征 卷积神经网络模型 网络结构优化方法
3
集成多参数检测的微流控芯片降凝剂智能筛选、优化装置及方法
集成多参数检测 降凝剂 优化装置 微流控芯片 显微镜成像系统
4
面向DNN训练数据访存的多堆叠磁缓存方法、介质及设备
缓存方法 面向深度神经网络 计数器 单精度浮点数 指数
5
基于区块链网络的建图处理方法、协同建图方法和系统
任务分配信息 探测机器人 关键帧 服务端 智能合约执行
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号