摘要
本申请实施例提供了一种张量内存搬运方法、设备、存储介质及程序产品,涉及人工智能技术领域,该方法包括:从原始张量的多个张量数据块中选取参考数据块,并先获得参考数据块的内存映射后的参考内存地址,然后基于参考数据块的参考内存地址、每个张量数据块在线程维度上相较于参考数据块的第一内存偏移量,以及每个张量数据块在张量数据块维度上相较于参考数据块的第二内存偏移量,确定每个张量数据块的目标内存地址。由于在内存地址映射时考虑了线程维度上的内存偏移量,因此,无论张量数据的形状在最后一个维度上是否按照张量数据块对齐,都可实现准确的内存地址映射,从而提高内存搬运功能的泛化性和通用性,进而提升内存搬运算子的性能。
技术关键词
内存
数据
人工智能芯片
计算机设备
搬运方法
索引
计算机程序产品
地址映射
样本
可读存储介质
搬运功能
人工智能技术
在线
布局
存储器
指令
网格
逻辑
系统为您推荐了相关专利信息
教学资源库
结构化数据模型
资源更新
索引
检索算法
土壤阳离子交换量
高分1号卫星
制图方法
耕地土壤
地表反射率
预测能量管理方法
燃料电池
历史运动数据
多尺度
能量源
避让控制方法
动作识别模型
图像
实时位置
运动学特征