多任务抢占的片上内存优化方法、装置、介质和设备

AITNT
正文
推荐专利
多任务抢占的片上内存优化方法、装置、介质和设备
申请号:CN202510858171
申请日期:2025-06-24
公开号:CN120743523A
公开日期:2025-10-03
类型:发明专利
摘要
本公开实施例公开了一种多任务抢占的片上内存优化方法、装置、介质和设备,其中,方法包括:确定执行第一计算任务时,访存硬件单元中片上内存的每一子块的活跃状态;基于各子块的活跃状态确定第一计算任务对应的分布指示变量;获取抢占的第二计算任务;基于分布指示变量确定数据备份指令及执行数据备份指令的第一时长;响应于第二计算任务执行结束,基于分布指示变量确定数据还原指令及执行数据还原指令的第二时长;基于第一时长、第二时长以及预设时长阈值,迭代更新初始分块粒度,得到目标分块粒度;基于目标分块粒度,对片上内存进行子块划分。本公开实施例可以高任务抢占过程传输的数据的有效性,从而有效提高传输数据的效率和有效利用率。
技术关键词
内存优化方法 分块 指令 神经网络模型 变量 多任务 数据 内存优化装置 序列 神经网络处理器 片上系统 模块 备份 电子设备 可读存储介质 存储器 有效性
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号