用于大语言模型的张量核系统及硬件芯片

AITNT
正文
推荐专利
用于大语言模型的张量核系统及硬件芯片
申请号:CN202510143463
申请日期:2025-02-10
公开号:CN119576273B
公开日期:2025-05-13
类型:发明专利
摘要
本发明提供一种用于大语言模型的张量核系统及硬件芯片,涉及人工智能芯片技术领域,包括:激活矩阵处理部件,用于将从存储器内部读取到的激活矩阵数据进行缓存和预处理,得到目标激活矩阵;权重矩阵处理部件,用于将从存储器内部读取到的权重矩阵数据进行缓存和预处理,得到目标权重矩阵;张量核运算部件,用于将目标激活矩阵和目标权重矩阵进行矩阵浮点数乘加运算,得到浮点数乘加运算结果,并基于预设浮点数数制,将累加矩阵和浮点数乘加运算结果进行累加,得到目标结果矩阵;累加矩阵及结果处理部件,用于对目标结果矩阵进行浮点数数制转换处理,得到待写入结果矩阵,并将待写入结果矩阵写入至存储器。本发明更有利于提高芯片算力利用率。
技术关键词
矩阵 浮点数 大语言模型 总线控制单元 数据 存储器 人工智能芯片技术 指令 转换单元 格式 写请求 元素
系统为您推荐了相关专利信息
1
一种氢泄漏检测的自适应动态基线校正方法
基线校正方法 动态滑动窗口 信号值 位线 非线性回归模型
2
一种应用于储能电池的智能管理方法及相关设备
智能管理方法 储能系统 回归预测模型 储能电池 储能电芯
3
一种基于热能传递的电容器容值衰减评估方法
电容器外壳 多时间尺度 NARX神经网络 热能 电流
4
云边协同控制方法
协同控制方法 数据压缩策略 性能预测模型 强化学习模型 系统状态监测
5
一种智能派梯算法和服务系统
服务系统 电梯运行状态 数据处理模块 乘客等待时间 数据采集模块
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号