边缘硬件高能效混合浮点神经网络推理的加速方法和装置

本发明公开一种边缘硬件高能效混合浮点神经网络推理的加速方法和装置，所述方法包括:通过解析待处理DNN模型的结构，生成计算与传输负载的DAG矩阵；通过配置目标边缘平台混合精度流水浮点运算单元模板，生成可配置的硬件加速器电路，同时提取硬件特征参数，提供硬件部署建模的硬件参数；基于深度强化学习策略梯度算法进行硬件感知的联合优化;根据优化后的运算单元配置参数、缓存策略及数据流调度方案，生成面向能效延迟积、运算速度或功耗的多目标部署方案。本发明解决了现有技术中混合精度DNN部署存在的硬件资源利用低效、优化目标单一、人工调优依赖度高的技术问题，实现了在资源受限边缘平台上自动生成高能效复杂DNN部署方案的技术效果。