摘要
本发明提供一种用于大语言模型的张量核系统及硬件芯片,涉及人工智能芯片技术领域,包括:激活矩阵处理部件,用于将从存储器内部读取到的激活矩阵数据进行缓存和预处理,得到目标激活矩阵;权重矩阵处理部件,用于将从存储器内部读取到的权重矩阵数据进行缓存和预处理,得到目标权重矩阵;张量核运算部件,用于将目标激活矩阵和目标权重矩阵进行矩阵浮点数乘加运算,得到浮点数乘加运算结果,并基于预设浮点数数制,将累加矩阵和浮点数乘加运算结果进行累加,得到目标结果矩阵;累加矩阵及结果处理部件,用于对目标结果矩阵进行浮点数数制转换处理,得到待写入结果矩阵,并将待写入结果矩阵写入至存储器。本发明更有利于提高芯片算力利用率。
技术关键词
矩阵
浮点数
大语言模型
总线控制单元
数据
存储器
人工智能芯片技术
指令
转换单元
格式
写请求
元素
系统为您推荐了相关专利信息
基线校正方法
动态滑动窗口
信号值
位线
非线性回归模型
智能管理方法
储能系统
回归预测模型
储能电池
储能电芯
电容器外壳
多时间尺度
NARX神经网络
热能
电流
协同控制方法
数据压缩策略
性能预测模型
强化学习模型
系统状态监测
服务系统
电梯运行状态
数据处理模块
乘客等待时间
数据采集模块