摘要
一种预训练模型微调方法、图像分类方法、介质、设备及产品。方法包括:对第一模型进行训练;确定训练后所得的第一模型在各样本上的样本损失;与每一其他参与方执行第一数据集的混洗和复制秘密共享,以使得各参与方分别获得混洗后所得的第一数据集的两个第一分片;接收模型持有方分发的预训练模型的模型参数的两个第二分片,基于本地的两个第一分片,与每一其他参与方对预训练模型进行多轮迭代微调,每轮迭代微调中,数据持有方基于第二数据集的两个第一分片与每一其他参与方确定RHO最大的K个样本,利用K个样本反向传播更新模型参数。选择有价值且尚未被学习到的样本进行模型微调,提升模型安全微调的效率。该方法可应用于联邦学习。
技术关键词
样本
预训练模型
分片
数据
微调方法
图像分类模型
更新模型参数
图像分类方法
排序算法
存储装置
计算机程序产品
种子
介质
电子设备
处理器
系统为您推荐了相关专利信息
检核方法
光谱反射率信息
生理特征数据
植物三维模型
生物多样性分析
参数智能管理方法
电子后视镜
车辆运动状态
动态调节图像
拼接算法
多视角特征融合
图像特征编码
混合损失函数
特征提取网络
融合语义
变量
计算机可读取存储介质
处理器通信
存储器
数学模型