一种基于虚拟样本分析的联邦后门检测方法及装置

本发明公开了一种基于虚拟样本分析的联邦后门检测方法及装置，其中，方法包括以下步骤：在一轮联邦训练过程中，中央服务器分发全局模型至各客户端，客户端训练本地模型并上传至中央服务器；中央服务器初始化随机虚拟样本，并通过梯度逆向方法更新初始虚拟样本生成全局虚拟样本；基于本地模型的输出分布，进一步使用梯度逆向方法优化全局虚拟样本，得到本地虚拟样本；在本地虚拟样本上计算每个本地模型的逻辑函数值，识别逻辑函数值异常突出的客户端，初步筛选为潜在后门客户端；进一步分析潜在后门客户端在其他类别样本上的逻辑函数值，筛除数据不均衡的潜在后门客户端，识别出最终的后门攻击。本发明能够提高后门攻击检测率，降低数据异常场景下假阳率。