神经网络模型量化方法、装置和电子设备

AITNT
正文
推荐专利
神经网络模型量化方法、装置和电子设备
申请号:CN202410849291
申请日期:2024-06-27
公开号:CN118709732A
公开日期:2024-09-27
类型:发明专利
摘要
本申请公开了一种神经网络模型量化方法、装置和电子设备,属于人工智能领域。该方法包括:获取第一神经网络模型中每个算子的算子信息;分别基于每个算子的算子信息和待部署设备的硬件资源的资源信息,确定每个类型的算子对应的算子量化策略,一个类型的算子包括至少一个算子;基于每个类型的算子对应的算子量化策略,对第一神经网络模型中的每个算子进行量化处理,得到第二神经网络模型;基于校准样本集,对第二神经网络模型进行量化,得到第三神经网络模型,校准样本集包含至少一个校准样本;基于训练样本集和损失函数,更新第三神经网络模型中的模型参数和算子的量化参数,得到第四神经网络模型。
技术关键词
神经网络模型 校准 样本 策略 参数 处理器 通信接口 电子设备 模块 可读存储介质 资源 程序 指令 存储器 计算机 算法 芯片
系统为您推荐了相关专利信息
1
一种私域流量自动化运营与客户拓展方法及系统
客户 生成个性化推荐 深度学习算法 策略 谱分析技术
2
一种高精度脉搏波周期切割算法
切割算法 脉搏波 移动平均滤波 周期 极值
3
一种基于智能驾驶的点云数据消噪方法及系统
消噪方法 三维点云数据 组合算法 DBSCAN算法 灰狼算法
4
安全自组网充电桩模块化组件及系统
模块化组件 自组网 远程监控中心 智能管理模块 识别车辆型号
5
一种双向时序特征增强的自适应暂态稳定评估方法、系统
暂态稳定评估方法 时序特征 样本 电网暂态稳定性 双向长短期记忆
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号