基于剪枝和双向量化的动态聚合联邦学习系统

AITNT
正文
推荐专利
基于剪枝和双向量化的动态聚合联邦学习系统
申请号:CN202410966613
申请日期:2024-07-18
公开号:CN118863015A
公开日期:2024-10-29
类型:发明专利
摘要
本发明公开一种基于剪枝和双向量化的动态聚合联邦学习系统,包括:一组客户端及一个服务器;客户端将服务器下发的全局量化权重作为局部模型的权重向量,对局部模型进行训练,对训练好的权重向量进行剪枝,并计算对应客户端的贡献值及量化梯度,并上传至服务器;服务器将贡献值作为聚合权重,更新全局模型的全局权重向量,将全局权重向量进行量化,获得全局量化权重,下发至各个客户端,客户端进行下一轮训练,直至全局模型收敛或者达到所需精度。客户端通过剪枝和量化方法构造轻量级局部模型,显著减少了传输的参数量;服务器采用动态权重分配策略,根据客户端的数据规模和相关性优化参数聚合,降低偏差参数所占权重,加快全局模型收敛速率。
技术关键词
联邦学习系统 客户端 服务器 模型剪枝 动态权重分配 精度 参数 样本 总量 规模 数据 策略 偏差 速率
系统为您推荐了相关专利信息
1
提升感知算法对抗安全性的方法、系统、介质及电子设备
样本 算法 定量评价指标 机器学习模型 场景
2
基于改进YOLOv8n的害虫检测方法
害虫检测方法 诱虫灯设备 网络摄像头 害虫图像 通道注意力机制
3
资源推荐方法、资源推荐装置、介质、产品和电子设备
资源推荐模型 资源特征 资源推荐方法 资源推荐装置 客户端
4
大数据引擎系统、基于Shuffle过程的数据处理方法及电子设备
数据存储服务 数据管理服务 合并算法 数据引擎系统 键值
5
图像传输方法、装置、计算机设备、存储介质和程序产品
监拍装置 时效性 图像传输方法 接入点 网络测试工具
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号