摘要
本申请适用于模型训练技术领域,提供了一种基于模型预训练的差分隐私联邦学习抗噪方法及系统,该方法包括:服务器通过公共数据集对目标模型进行预训练,得到目标模型的初始模型参数;根据初始模型参数和预设超参数,确定多个用户终端对目标模型进行本地训练的微调策略;将目标模型和微调策略发送至多个用户终端,其中,每个用户终端根据微调策略和本地数据集对目标模型进行本地训练,并反馈得到的目标模型的加噪梯度信息;根据多个加噪梯度信息生成目标模型的更新模型参数,并将更新模型参数发送至多个用户终端,直至经过多次迭代训练,确定目标模型达到收敛状态。可以提高模型的性能,同时保护用户终端的本地数据隐私。
技术关键词
更新模型参数
抗噪方法
模型预训练
策略
终端
超参数
差分隐私机制
服务器
决策
模型训练技术
抗噪系统
参数更新模块
数据
噪声
系统为您推荐了相关专利信息
数据采集模型
数据采集模块
时序分析模块
故障演化分析
诊断模块
调度协同控制方法
节点
共识算法
系统控制策略
分布式供能
文本
信息检索方法
信息检索设备
信息检索装置
可读存储介质