摘要
本申请公开了一种数据处理的方法、装置及终端设备,通过获取目标权重矩阵,目标权重矩阵由与自注意力机制相关的多个权重矩阵组合得到的,目标权重矩阵包括每个权重矩阵中的每一列数据,且每个权重矩阵中每一列数据以预设的交织规则依次排列,通过获取输入数据,并将输入数据输入至目标权重矩阵,得到输入数据的自注意力分数,则可以仅需将输入数据输入至目标权重矩阵,得到输入数据的自注意力分数,无需多次访问输入数据并将输入数据分别输入至查询权重矩阵、键权重矩阵以及值权重矩阵,减少了对同一输入数据多次读取访问的情况,减少了内存访问耗时,提高了计算自注意力分数的效率。
技术关键词
矩阵
注意力机制
终端设备
算法
计算机程序产品
参数
处理器
输入模块
数据存储
存储器
元素
内存
系统为您推荐了相关专利信息
风险评估模型
电网系统
物联网平台
综合评估系统
动态变化模型
光源组件
图像传感器感光面
全息成像系统
光纤耦合模块
多波长光源