一种基于同态压缩的分布式AllReduce梯度聚合方法

本发明提供一种基于同态压缩的分布式AllReduce梯度聚合方法，通过HG‑Sketch数据结构和优化可编程交换机的部署策略，以支撑分布式学习框架在大规模模型训练中的梯度聚合；所述HG‑Sketch数据结构通过多层索引表实现压缩梯度的网内直接聚合，以消除额外的计算开销；所述优化可编程交换机的部署策略通过采用索引共享技术，以优化可编程交换机的内存使用，并通过整数线性规划模型优化交换机的部署策略，以增强网络内聚合的能力。