模型参数处理方法、模型训练方法、计算设备和计算集群

本申请实施例公开了一种模型参数处理方法、模型训练方法、计算设备和计算集群，涉及人工智能技术领域。该模型参数处理方法应用于目标节点；该方法包括：从基于计算快速链接CXL协议共享本地内存的各计算节点获取梯度数据；梯度数据存储于计算节点的本地内存中；梯度数据是计算节点训练本地部署的目标模型得到；目标模型为分布式训练的模型。根据各计算节点的梯度数据，确定梯度融合数据；梯度融合数据用于各计算节点更新目标模型的模型参数；向各计算节点的本地内存中存储梯度融合数据。如此，提升了模型训练的效率。