一种基于反向遗忘的后门防御方法及系统

本发明公开一种基于反向遗忘的后门防御方法及系统，属于人工智能安全领域；方法包括：利用原始干净样本集合训练预训练模型，并使用预训练模型从污染数据集中筛选出潜在干净样本集合，来合成新的干净样本集合，并使用新的干净样本集合对预训练模型进一步训练；将污染数据集和所述新的干净样本集合输入样本检测模型中，并分别采用交叉熵损失和熵约束进行训练；将污染数据集输入训练后的样本检测模型进行预测，来检测毒化样本。该方法对干净样本的模型特征表现进行反向遗忘，突出后门毒化样本的本体特征，而非直接寻找毒化样本的特征进行判别，从而对更新的样本中毒方法有着更加稳定的防御效果，脱离了传统后门检测方法的局限性。