一种基于可编程数据平面的低延迟批归一化层通信方法

本发明公开一种基于可编程数据平面的低延迟批归一化层通信方法，通过可编程交换机进行通信数据的收取、存储和转发，可编程交换机仅对接收到的BN层参数进行求和运算，将后续的单机可执行的复杂运算操作卸载到端上进行；Tofino交换机中的寄存器进行有状态的存储，使用位图存储计算节点提交数据的状态，并根据位图的内容决定数据报的转发和寄存器数据的处理逻辑；在计算节点和可编程交换机之间设计基于位图的数据同步通信流程；引入可编程数据平面，使用可编程数据平面优化BN层通信流程的可能路径，将通信方案实现为在网计算应用配置，能够提升通信原语的执行性能和分布式机器学习训练性能。