摘要
本发明属于联邦学习技术领域,具体涉及一种用于分类任务的联邦学习优化方法。本发明将现有的几种处理数据异质性问题的思想进行了结合,然后提出了两种新的正则项,即缺失类蒸馏正则项和维度保持正则项。在本发明中,局部模型输出的缺失类的概率预测被限制尽可能靠近全局模型的预测,此外通过保存历史的神经网络的线性分类层的分类向量并对历史分类向量的秩进行正则,防止了模型学习到的特征塌缩至低维。本发明的方法经过全面实验验证其有效性。
技术关键词
学习优化方法
客户端
中心服务器
神经网络模型训练
样本
参数
收集训练数据
联邦学习技术
联邦学习模型
梯度下降算法
线性
度函数
因子
矩阵
队列
蒸馏
有效性
代表
元素
系统为您推荐了相关专利信息
故障率预测方法
计量终端
注意力机制
表计
设备运行参数