一种张量内存搬运方法、设备、存储介质及程序产品

AITNT
正文
推荐专利
一种张量内存搬运方法、设备、存储介质及程序产品
申请号:CN202411037672
申请日期:2024-07-30
公开号:CN118567580B
公开日期:2024-11-15
类型:发明专利
摘要
本申请实施例提供了一种张量内存搬运方法、设备、存储介质及程序产品,涉及人工智能技术领域,该方法包括:从原始张量的多个张量数据块中选取参考数据块,并先获得参考数据块的内存映射后的参考内存地址,然后基于参考数据块的参考内存地址、每个张量数据块在线程维度上相较于参考数据块的第一内存偏移量,以及每个张量数据块在张量数据块维度上相较于参考数据块的第二内存偏移量,确定每个张量数据块的目标内存地址。由于在内存地址映射时考虑了线程维度上的内存偏移量,因此,无论张量数据的形状在最后一个维度上是否按照张量数据块对齐,都可实现准确的内存地址映射,从而提高内存搬运功能的泛化性和通用性,进而提升内存搬运算子的性能。
技术关键词
内存 数据 人工智能芯片 计算机设备 搬运方法 索引 计算机程序产品 地址映射 样本 可读存储介质 搬运功能 人工智能技术 在线 布局 存储器 指令 网格 逻辑
系统为您推荐了相关专利信息
1
一种教学资源积件库建设方法及系统
教学资源库 结构化数据模型 资源更新 索引 检索算法
2
WFV的耕地土壤阳离子交换量空间分布制图方法
土壤阳离子交换量 高分1号卫星 制图方法 耕地土壤 地表反射率
3
一种用于抗遗忘的多领域中文拼写纠错知识迁移方法
知识迁移方法 纠错 教师 学生 蒸馏
4
一种跟车场景下的燃料电池混合动力汽车多尺度预测能量管理方法及系统
预测能量管理方法 燃料电池 历史运动数据 多尺度 能量源
5
基于图像的避让控制方法、设备及存储介质
避让控制方法 动作识别模型 图像 实时位置 运动学特征
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号