摘要
本发明涉及计算机人工智能技术领域,公开了一种基于算子调用的模型推理算子融合优化方法及系统,通过对模型文件中算子进行分析,按照算子对模型推理性能的影响程度进行排序,依次对模型文件中的算子进行融合优化处理,并验证其优化效果,进而实现整个模型推理过程的优化,降低了平台的数据传输延迟、提高了数据访存速度、提升了场景应用性能。
技术关键词
融合优化方法
平台
计算机人工智能技术
数据传输延迟
时间比
分析模块
频率
标记
阶段
关系
场景
速度
系统为您推荐了相关专利信息
信息服务平台
XGBoost模型
药物配伍禁忌
MapReduce框架
药物不良反应
激光控制装置
除草设备
跟踪相机
图像识别装置
激光发射器
芯片贴装设备
流线
芯片上料机构
双龙门结构
芯片贴装方法
数据监控预警
监控预警方法
监控平台
监控预警系统
预警模型