神经网络编译器的运行时组件实现方法及神经网络编译器

本发明提供一种神经网络编译器的运行时组件实现方法及神经网络编译器，涉及计算机技术领域，该方法通过调用静态算子库，可以实现基于静态链接的神经网络编译器运行时方案，不依赖动态链接、文件系统等操作，可满足边缘端神经网络模型的推理需求。而且，该方法通过在可执行代码中插入插桩功能函数，可以在可执行代码运行时监测各算子的性能数据，进而有助于调试与效率优化。该方法直接将模型逻辑生成可执行代码，不需要从传统资源文件中解析出模型算子信息，如此可以避免模型算子信息的解析过程，降低神经网络编译器运行时的逻辑复杂度与计算量。