摘要
本申请公开大模型计算加速芯片架构,涉及大模型领域。包括归一化片上网络、互联传输系统、存储控制系统和计算加速核;存储控制系统基于内置的不同存储控制器连接Memory显存组和外部SSD存储;归一化片上网络基于存储控制系统读取目标位置的片内模型参数并送入计算加速核进行计算,以及回存片内模型数据,基于互联传输系统与外部管理服务器进行片外交互,接收指令任务并读取和回存外部模型参数,基于互联传输系统与其他计算加速芯片进行片间交互,读取和回存片间模型参数。本方案混合显存计算芯片架构,支持多并行SSD直连访问,保持带宽的条件下低成本扩展容量,无论是大规模并行任务,还是小型低成本一体机,均保持较高的性价比。
技术关键词
归一化模块
节点
芯片架构
存储控制系统
加速核
流水
数据
子系统
级联
存储控制器
网络
探针单元
NVMe控制器
管理服务器
端口
系统硬件资源
矩阵
存取模型
系统为您推荐了相关专利信息
网络节点部署方法
无人机应急通信
Dijkstra算法
集群无人机
应急通信网络
自动化仓库
路径规划方法
搜索算法
节点
栅格地图
双工滤波器
数模转换模块
跳频
电容模块
端口耦合装置
助手机器人
多模态交互
面部表情分析
闭环控制
控制系统