摘要
本发明属于深度学习技术领域,公开了一种基于VGP和SU的差分隐私随机梯度下降方法,本发明方法基于DP‑SGD算法提出的一种改进方案,本发明方法将垂直梯度扰动机制VGP和选择性更新机制SU组合起来使用。利用验证集过滤模型更新,将隐私预算分配给增量梯度信息,从而减少噪声注入并提高信息增益。同时,为了进一步优化隐私预算分配,采用分阶段应用策略,在初始训练阶段同时应用VGP和SU,而在后续阶段仅使用SU来应对不断变化的梯度相关性并提高隐私效率;本发明解决了现有技术差分隐私随机梯度(DP‑SGD)方法存在隐私与效用之间的平衡问题和计算效率的问题,适用于深度学习模型。
技术关键词
随机梯度下降
差分隐私
更新模型参数
样本
深度学习技术
噪声
深度学习模型
模型更新
基线
分阶段
进程
机制
数据
策略
算法
系统为您推荐了相关专利信息
阳性检测方法
球体
特征提取模块
节点特征
异常数据
卷积神经网络模型
图像特征向量
对象识别方法
样本
特征提取网络
残差神经网络
故障诊断方法
样本
特征提取模型
锂电池