摘要
本公开实施例公开了一种多任务抢占的片上内存优化方法、装置、介质和设备,其中,方法包括:确定执行第一计算任务时,访存硬件单元中片上内存的每一子块的活跃状态;基于各子块的活跃状态确定第一计算任务对应的分布指示变量;获取抢占的第二计算任务;基于分布指示变量确定数据备份指令及执行数据备份指令的第一时长;响应于第二计算任务执行结束,基于分布指示变量确定数据还原指令及执行数据还原指令的第二时长;基于第一时长、第二时长以及预设时长阈值,迭代更新初始分块粒度,得到目标分块粒度;基于目标分块粒度,对片上内存进行子块划分。本公开实施例可以高任务抢占过程传输的数据的有效性,从而有效提高传输数据的效率和有效利用率。
技术关键词
内存优化方法
分块
指令
神经网络模型
变量
多任务
数据
内存优化装置
序列
神经网络处理器
片上系统
模块
备份
电子设备
可读存储介质
存储器
有效性