摘要
本发明涉及人工智能技术领域,提供一种张量布局优化方法、电子设备和存储介质,其中方法包括:获取计算图中的目标操作;基于计算图,获取与目标操作存在数据依赖关系的所有关联操作,并在各关联操作均满足第二预设条件的情况下,确定包括目标操作和各关联操作的数据流为待优化数据流;基于计算硬件的访存通道特性,创建目标布局编码,目标布局编码用于将一个线程束划分为至少两个线程组,以使不同的线程组对计算硬件的访存通道进行分时复用;基于目标布局编码,更新待优化数据流中各操作所关联的张量的内存布局。本发明针对特定架构的硬件特性,通过优化张量的内存布局,分时复用访存通道,显著提升了内存带宽利用率和访存性能。
技术关键词
布局优化方法
数据依赖关系
编码
内存
非暂态计算机可读存储介质
电子设备
通道
人工智能技术
处理器
重构
存储器
逻辑
元素
定义
系统为您推荐了相关专利信息
大语言模型
数据价值评估方法
评估装置
样本
可信平台
神经网络模型
大体积混凝土温度
温度预测模型
遗传算法优化
实时监测数据
快速生成方法
多波束
引入注意力机制
半监督学习
编码