摘要
本发明公开一种面向纵向联邦推理系统的目标标签攻击方法、设备及介质,属人工智能系统安全领域,包括:将攻击者的推理过程分为:准备阶段,攻击者正常执行纵向联邦推理流程,累积从全局纵向联邦模型反馈的推理结果作为伪标签,并使用伪标签在本地训练一个本地替代模型,同时估计全局纵向联邦推理系统中的检测器;攻击阶段,用投影梯度下降方法优化输入样本特征生成恶意样本,将生成的恶意样本输入至联邦推理系统进行目标标签攻击。该方法能在推理过程中累积已推理样本的输出结果作为伪标签,从而避免了攻击者必须获得样本标签才能实现有效目标标签攻击。
技术关键词
无标签样本
推理系统
恶意样本
联邦模型
检测器
梯度下降算法
半监督聚类
阶段
聚类方法
处理器
数据
可读存储介质
程序
存储器
参数