用于处理算子的方法和装置

AITNT
正文
推荐专利
用于处理算子的方法和装置
申请号:CN202411440689
申请日期:2024-10-16
公开号:CN119045832B
公开日期:2025-02-07
类型:发明专利
摘要
本公开的实施例公开了一种用于处理算子的方法、用于处理算子的装置、电子设备与计算机可读存储介质。该方法包括:基于神经网络模型,确定所述神经网络模型对应的计算图;基于所述计算图,确定能够使得所述神经网络模型运行的搜索空间,所述搜索空间包括所述多个算子的内存布局的候选集和所述多个算子的实现方式的候选集;基于所述搜索空间,确定融合有所述多个算子的内存布局信息和实现方式信息的中间表示;以及基于所述中间表示在硬件上的测试结果,调整所述多个算子的内存布局和实现方式。根据本公开的实施例能够提升所部署的神经网络模型的性能。
技术关键词
神经网络模型 内存 布局 计算机可执行程序 可读存储介质 电子设备 处理器 模块 存储器 指令 数据
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号