算子库、高级算子的实现方法、数据处理方法及AI软件栈

本发明涉及算子库、高级算子的实现方法、数据处理方法及AI软件栈，算子库包括：硬件固有层，被配置为用于封装异构神经网络加速器的硬件指令集，将底层硬件指令转化为能够供中间解耦层调用的指令集封装；中间解耦层，能够调用硬件固有层提供的API接口配置基础算子，并为高级算子提供调用基础算子的API接口；以及高级算子层，基于神经网络的算子算法需求，调用中间解耦层提供的基本算子，实现高级算子算法。采用分层次解耦合设计，将高级算子层的算法和模型算子接口与硬件固有层的硬件指令集的接口通过中间解耦层隔离，硬件指令集在迭代时也不会对上层算法和模型的算子造成影响，提高了算子库的可移植性，使得其能够快速应用于各种模型部署落地。