摘要
本发明提供一种模型优化生成方法、装置、设备、存储介质及程序产品,涉及人工智能技术领域,方法包括:接收待优化模型;对待优化模型进行结构化解析,获得待优化模型的结构信息;根据结构信息,基于算子优化策略,对待优化模型进行优化,获得第一优化模型;基于目标芯片的硬件特性,对第一优化模型进行调整,获得第二优化模型;对第二优化模型进行编译,生成目标模型代码。通过上述方式,可根据目标芯片的硬件特性生成能够在目标芯片上运行的模型代码,提高模型兼容性,避免模型在目标芯片上运行不稳定甚至无法正常运行的问题,根据模型的结构信息和算子优化策略进行模型优化,可提高模型的运行效率,有利于模型在目标芯片上实现高效推理。
技术关键词
优化生成方法
Winograd卷积
芯片
策略
非暂态计算机可读存储介质
内存访问模式
硬件加速器
处理器
人工智能技术
性能监控
计算机程序产品
任务调度
生成装置
模块
存储器
电子设备
接口
数据
参数
系统为您推荐了相关专利信息
监测平台
LDA算法
物联网传感器
数据仓库管理
数据采集层
模型构建方法
钢坯
燃烧器喷嘴
粒子群算法求解
加热炉