摘要
本发明提出了一种面向DNN训练数据访存的多堆叠磁缓存方法、介质及设备,属于面向深度神经网络的数据访存性能和缓存管理性能技术领域,通过近似存储架构和缓存重映射迁移策略减少单元级和互联级延迟。在单元层面,将DNN训练时权重的指数位固定并存储在硬位中,降低硬位频繁写入带来的功耗和延迟开销,并引入补偿位以避免精度损失。在互联层面,基于路的缓存集划分方法对共享缓存物理分块来降低数据在缓存间的访问延迟,同时利用片上互联网络实现缓存块间的高效通信。鉴于数据访问存在时间和空间局部性,进一步提出重映射迁移策略减少存储中总体的读写延迟。
技术关键词
缓存方法
面向深度神经网络
计数器
单精度浮点数
指数
划分方法
符号
数据访问
分块
处理器
可读存储介质
存储器
计算机
策略
算法
电子设备
集群