基于混合专家模型的集合通信方法、系统和设备

本公开提供了一种基于混合专家模型的集合通信方法、系统和设备，涉及通信技术领域，具体涉及芯片处理器、算力集群、集合通信操作、大模型等技术领域。该集合通信方法应用于通信接收端，包括：接收数据写入指令，其中，数据写入指令包括待处理数据和第一地址信息；根据第一地址信息访问预先创建的虚拟地址空间中的虚拟专家地址；基于待处理数据的大小，为虚拟专家地址申请对应的实际物理空间；将待处理数据写入实际物理空间。本公开提供的集合通信方法无需进行内存信息同步即可实现集合通信。