大模型计算加速芯片架构

AITNT
正文
推荐专利
大模型计算加速芯片架构
申请号:CN202510945067
申请日期:2025-07-09
公开号:CN120525012A
公开日期:2025-08-22
类型:发明专利
摘要
本申请公开大模型计算加速芯片架构,涉及大模型领域。包括归一化片上网络、互联传输系统、存储控制系统和计算加速核;存储控制系统基于内置的不同存储控制器连接Memory显存组和外部SSD存储;归一化片上网络基于存储控制系统读取目标位置的片内模型参数并送入计算加速核进行计算,以及回存片内模型数据,基于互联传输系统与外部管理服务器进行片外交互,接收指令任务并读取和回存外部模型参数,基于互联传输系统与其他计算加速芯片进行片间交互,读取和回存片间模型参数。本方案混合显存计算芯片架构,支持多并行SSD直连访问,保持带宽的条件下低成本扩展容量,无论是大规模并行任务,还是小型低成本一体机,均保持较高的性价比。
技术关键词
归一化模块 节点 芯片架构 存储控制系统 加速核 流水 数据 子系统 级联 存储控制器 网络 探针单元 NVMe控制器 管理服务器 端口 系统硬件资源 矩阵 存取模型
系统为您推荐了相关专利信息
1
无人机应急通信网络节点部署方法、系统、装置及存储介质
网络节点部署方法 无人机应急通信 Dijkstra算法 集群无人机 应急通信网络
2
基于冲突搜索算法的拥挤自动化仓库多AGV路径规划方法
自动化仓库 路径规划方法 搜索算法 节点 栅格地图
3
高隔离度跳频双工滤波器及其多端口耦合装置
双工滤波器 数模转换模块 跳频 电容模块 端口耦合装置
4
基于多模态交互的全流程闭环护理助手机器人控制系统
助手机器人 多模态交互 面部表情分析 闭环控制 控制系统
5
一种基于OVS流表与VXLAN协议实现的分布式流量镜像采集的方法
流表规则 VXLAN隧道 网桥 镜像 去重算法
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号