摘要
本公开涉及一种加速器集群超节点装置和计算加速装置,该加速器集群超节点装置包括南向PCIe交换机和至少一个人工智能服务器;每个人工智能服务器均包括至少两个加速卡组,每个加速卡组中含有至少一个加速卡;南向PCIe交换机耦接于至少一个人工智能服务器中的至少两个加速卡组中的加速卡,形成加速卡之间跨加速卡组的南向PCIe连接路径。本公开实现了不同加速卡组和不同服务器节点内加速卡之间的南向连接,比北向数据通信的等待时间更短,有助于减小不同加速卡组内的不同加速卡之间在数据交互时的数据接收等待时间,实现了加速卡的直接互连通信,有助于缩短加速卡的接收数据等待时间,有助于提升计算速度。
技术关键词
PCIe交换机
加速卡
人工智能服务器
节点装置
加速器
集群
网络交换机
加速装置
IC卡
服务器节点
处理器
数据通信
光模块
端口
系统为您推荐了相关专利信息
模型部署方法
硬件逻辑单元
生成微指令
描述符
节点
内存访问控制器
内存访问装置
中央处理器
命令
系统级芯片
稀疏神经网络
加速器
元素
计算机可读指令
检测器
数据缓存单元
机器学习模型
硬件加速器
多通道
非线性