用于大模型算法的加速器芯片

AITNT
正文
推荐专利
用于大模型算法的加速器芯片
申请号:CN202411691127
申请日期:2024-11-25
公开号:CN119783739A
公开日期:2025-04-08
类型:发明专利
摘要
本发明提供一种用于大模型算法的加速器芯片,涉及人工智能芯片技术领域,该加速器芯片包括:矩阵向量乘法单元和向量单元;矩阵向量乘法单元用于大模型算法的矩阵向量乘法运算、数据存储和传递;向量单元用于大模型算法的向量运算、数据存储和控制;其中,矩阵向量乘法单元包括只读存储器和静态随机存取存储器;只读存储器用于存储基模型参数,基模型参数用于计算基模型矩阵向量;静态随机存取存储器用于存储微调参数,微调参数用于计算微调矩阵。本发明能够以较小的成本打破存储带宽限制。
技术关键词
矩阵向量乘法 静态随机存取存储器 模型算法 加速器 存储模块 人工智能芯片技术 数据存储 参数 控制模块 时序 存储单元 场景 指数 信号 端口
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号