摘要
本公开涉及一种基于三维存储阵列的权重存储方法、系统、介质,通过片下对模型权重预训练得到预训练权重,将预训练权重写入到三维存储阵列的第一存储层,基于模型权重得到第一低秩矩阵和第二低秩矩阵,第一低秩矩阵和第二低秩矩阵是微调权重的分解矩阵,通过位线和上选通管控制栅将第一低秩矩阵和第二低秩矩阵并行输入三维存储阵列的第二存储层,并在第二存储层完成第一低秩矩阵和第二低秩矩阵的外积运算,将微调权重写入到三维存储阵列的第二存储层中,能够降低片下计算成本,提高模型权重更新和存储的效率,能够改善模型权重的更新时延和耐久性问题,有利于加快模型权重的更新速度,以满足深度学习模型对存储系统的要求。
技术关键词
三维存储阵列
权重存储方法
晶体管
矩阵
存储系统
位线
深度学习模型
预训练模型
模块
可读存储介质
电压
时延
计算机
处理器
电流
速度
数据
系统为您推荐了相关专利信息
智能生成系统
教学
模块
融合知识图谱
更新知识图谱
转移概率矩阵
企业
电力消耗量
特征提取模块
控制系统
信号提取方法
Bayes模型
包络
搜索算法优化
麦克风传感器