摘要
本申请提供一种面向模型训练的梯度数据传输方法及相关设备,通过实时监控传输速率,根据传输速率的变化动态确定压缩比,进而能够根据压缩比智能压缩梯度数据,显著减少了数据传输量,减轻了网络负担;同时,根据交换机与所述参数服务器之间的传输链路带宽通过拥塞控制调整每个工作端的传输速率来缓解拥塞。在二者的共同作用下,显著缩短了梯度数据的传输时间,提高了数据传输效率,从而加速了分布式人工智能模型的训练过程,提升了整体训练效率。
技术关键词
交换机
链路
数据传输控制系统
数据传输方法
比率
分布式人工智能
服务器
数据传输装置
数据传输模块
参数
计算机
处理器
算法
存储器
电子设备
指令
负担
系统为您推荐了相关专利信息
协同系统
数据存储模块
芯片
图像数据处理技术
硬盘数量
信号模拟装置
信道冲激响应
混频模块
频率
信号处理单元
数据实时传输方法
指挥终端
成像仪
北斗终端
粒子
通信链路
频谱接入策略
动态频谱接入方法
深度Q网络
时隙结构