基于CPU/NPU协同计算的卷积神经网络编译方法

AITNT
正文
推荐专利
基于CPU/NPU协同计算的卷积神经网络编译方法
申请号:CN202510014346
申请日期:2025-01-06
公开号:CN119938057B
公开日期:2025-12-26
类型:发明专利
摘要
一种基于CPU/NPU协同计算的卷积神经网络编译方法,将各种CNN模型在不同网络框架下经过模型量化和压缩,以ONNX文件格式导出;通过ONNX‑MLIR工具链与NPU编译器的融合完成ONNX文件编译过程并分别生成分配到CPU和NPU的任务列表后,在CPU端,ONNX‑MLIR为CPU任务生成有效的RISC‑V指令,支持高效调度,在NPU端,定制的NPU编译器完成NPU任务在算法与硬件上的匹配并将算子高效映射到NPU平台。本发明通过功能函数并优化核心阶段,解决CNN在异构架构(RISC‑V CPU/NPU)上无法有效运行的问题,实现计算性能的显著提升。
技术关键词
神经网络编译方法 自定义算子 数据传输开销 最大化吞吐量 任务调度 高效机器 模式 异构平台 内存 打包技术 自检功能 残差网络 阶段 输出特征 机制 调度器 列表 指令 变量
系统为您推荐了相关专利信息
1
一种基于深度强化学习的工业边缘计算系统负载均衡方法
系统负载均衡方法 调度器 深度强化学习 队列 分布式方法
2
一种样品前处理中转运过程控制系统
引导算法 双层智能 控制模块 启发式搜索 序列
3
定时任务创建方法、装置、介质及设备
识别码 指令 标识 任务调度器 可读存储介质
4
基于业务拆解与可视化呈现双智能体的处理方法及系统
自然语言 注册中心 电力系统数据分析 有向无环图结构 意图识别
5
一种脑疾病患者远程医疗服务任务调度方法及系统
远程医疗服务 患者生理状况 疾病 任务调度方法 服务评估模型
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号