张量计算方法、电子设备、存储介质及产品

AITNT
正文
推荐专利
张量计算方法、电子设备、存储介质及产品
申请号:CN202510562376
申请日期:2025-04-30
公开号:CN120066751B
公开日期:2025-07-18
类型:发明专利
摘要
本申请公开了一种张量计算方法、电子设备、存储介质及产品,涉及数据处理技术领域,包括获取目标张量计算任务;基于目标张量计算任务中张量的数量,确定多个流;基于目标张量计算任务和多个流,确定分配到每个流的子任务;利用事件同步机制管理多个流之间的依赖关系,并行启动每个流对应的内核以完成子任务的计算,解决了相关方案中多个规模较小的张量在进行逐位操作时,无法占满加速器计算单元,导致资源利用率低,且每组张量都有对应的启动内核,导致计算耗时累积,进而导致张量计算效率低的技术问题,达到了提高资源利用率、减少张量启动内核耗时,进而提高张量计算效率的技术效果。
技术关键词
计算方法 内核 尺寸 电子设备 可读存储介质 存储计算机程序 关键点 数据处理技术 计算机程序产品 机制 元素 处理器 关系 加速器 列表 通知 算法 资源 消息
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号