摘要
本发明提供一种用于大模型算法的加速器芯片,涉及人工智能芯片技术领域,该加速器芯片包括:矩阵向量乘法单元和向量单元;矩阵向量乘法单元用于大模型算法的矩阵向量乘法运算、数据存储和传递;向量单元用于大模型算法的向量运算、数据存储和控制;其中,矩阵向量乘法单元包括只读存储器和静态随机存取存储器;只读存储器用于存储基模型参数,基模型参数用于计算基模型矩阵向量;静态随机存取存储器用于存储微调参数,微调参数用于计算微调矩阵。本发明能够以较小的成本打破存储带宽限制。
技术关键词
矩阵向量乘法
静态随机存取存储器
模型算法
加速器
存储模块
人工智能芯片技术
数据存储
参数
控制模块
时序
存储单元
场景
指数
信号
端口