摘要
本申请实施例涉及神经网络技术领域,具体涉及一种计算系统、方法、产品、设备及存储介质。所述系统包括:外部存储芯片,所述外部存储芯片用于存储自注意力机制计算中的多个矩阵;计算芯片,用于接收所述外部存储芯片发送的矩阵,根据所述矩阵进行加速自注意力计算;所述计算芯片包括:第一缓存块,第二缓存块,第三缓存块,第四缓存块,第五缓存块,用第六缓存块,矩阵缩放单元,矩阵乘单元,行最大值单元,向量加减单元,向量指数单元,向量累加单元,向量比较单元,第一向量乘法单元,第二向量乘法单元,向量除法单元,算子融合控制器。
技术关键词
矩阵
向量乘法单元
融合控制器
内存访问控制器
存储芯片
信号选择器
计算方法
数据选择器
算术单元
缩放单元
注意力机制
状态控制器
指数
神经网络技术
计算器
处理器
计算机程序产品