摘要
本发明提供一种ONNX模型的优化方法及装置,属于深度学习模型优化技术领域,其中,ONNX模型的优化方法包括:对ONNX模型进行形状推理,获取ONNX模型中各中间节点的形状;获取进行形状推理后的ONNX模型的第一模型状态;对进行形状推理后的ONNX模型进行模型优化处理,并对进行模型优化处理后的ONNX模型再次进行形状推理;再次获取ONNX模型的第二模型状态,将第二模型状态与第一模型状态进行比较,若两者一致,则完成ONNX模型的优化,若两者不一致,则继续进行模型优化处理和形状推理。本发明中的ONNX模型的优化方法,能够更全面地优化模型,实现更少的算子个数以及更小的模型体积,同时不损失模型的精度。
技术关键词
优化装置
节点
深度学习模型优化
表达式
模块
模板
精度
系统为您推荐了相关专利信息
金属矿山巷道
BP神经网络构建
稳定性预测方法
巷道围岩稳定性
计算机可读取存储介质
视觉引导机器人
机械手模块
末端执行器
夹具模块
夹臂
服务器组件
优化运行参数
模糊推理规则
电磁干扰检测
监控模块
远程通信单元
分发装置
微控制器单元
密钥
负荷管理终端
宏基因组数据
深度学习方法
高维特征向量
混合损失函数
卷积长短期记忆