一种基于算子调用的模型推理算子融合优化方法及系统

AITNT
正文
推荐专利
一种基于算子调用的模型推理算子融合优化方法及系统
申请号:CN202411810283
申请日期:2024-12-10
公开号:CN119847731B
公开日期:2025-10-21
类型:发明专利
摘要
本发明涉及计算机人工智能技术领域,公开了一种基于算子调用的模型推理算子融合优化方法及系统,通过对模型文件中算子进行分析,按照算子对模型推理性能的影响程度进行排序,依次对模型文件中的算子进行融合优化处理,并验证其优化效果,进而实现整个模型推理过程的优化,降低了平台的数据传输延迟、提高了数据访存速度、提升了场景应用性能。
技术关键词
融合优化方法 平台 计算机人工智能技术 数据传输延迟 时间比 分析模块 频率 标记 阶段 关系 场景 速度
系统为您推荐了相关专利信息
1
一种基于云计算的药剂科药物信息服务平台
信息服务平台 XGBoost模型 药物配伍禁忌 MapReduce框架 药物不良反应
2
一种激光除草设备及激光除草车
激光控制装置 除草设备 跟踪相机 图像识别装置 激光发射器
3
区块链开发平台的全生命周期数据安全管理方法
数据安全管理方法 指数 风险 特征值 曲线
4
一种双龙门芯片贴装设备及其方法
芯片贴装设备 流线 芯片上料机构 双龙门结构 芯片贴装方法
5
一种农业大棚信息监控预警方法、系统、服务器及可读介质
数据监控预警 监控预警方法 监控平台 监控预警系统 预警模型
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号