摘要
本发明公开了一种基于梯度压缩与量化的分布式机器学习方法及系统,涉及通信资源计算技术领域。该方法包括步骤:服务器对客户端梯度信息进行数据压缩处理,其中,利用离散化量化处理对客户端梯度信息进行初步压缩,利用编码方法对初步压缩后的信息进行进一步压缩;将压缩后的梯度信息分发至客户端;客户端利用边缘计算方法对梯度阈值进行自适应计算和选择,得到更新后的梯度信息;客户端将更新后的信息上传至服务器。本申请在服务器下发梯度信息时,采用离散量化与编码结合的方法对服务器分发的梯度进行压缩,之后在离散量化的基础上,采用编码方法进一步压缩数据,从而实现梯度的高效压缩。
技术关键词
分布式机器学习方法
客户端
边缘计算方法
数据压缩
服务器
编码方法
分布式机器学习系统
资源计算技术
可读存储介质
动态更新
端点
终端设备
处理器
通信节点
指令
计算机
模块
元素
码表