基于RKNN的边缘网关实时视频推理方法及系统

本发明公开了基于RKNN的边缘网关实时视频推理方法及系统，属于深度学习技术领域，要解决的技术问题为如何实现高流量视频数据的实时处理并减少计算资源依赖。包括如下步骤：基于样本图像和标记构建数据集，并将数据集划分为训练集和验证集；基于深度学习方法构建推理模型，对构建的推理模型进行模型训练，得到最优模型；将最优模型转换为onnx模型；将onnx模型转换为rknn模型；配置rknpu环境，封装初始化rknn模型接口，初始化rknn模型为rknn对象列表，封装一个rknn线程池；采集视频并对视频进行图像分解得到多帧图像，rknn线程池中各个线程通过rknn模型对捕获的图像进行推理，得到推理结果。