扰动隐藏层神经元激活值的数据分类模型鲁棒性测试方法、系统、设备及介质

本发明公开了扰动隐藏层神经元激活值的数据分类模型鲁棒性测试方法、系统、设备及介质，属于数据隐私安全技术领域，包括：获取待测样本在数据分类模型中至少一个目标隐藏层的原始激活向量；根据原始激活向量，通过将原始激活向量的各数值分量划分至多个激活区间，并对不同激活区间内的数值分量施加预设的差异化扰动，以构造目标激活向量；基于目标激活向量与原始激活向量之间的预设距离，采用梯度优化算法调整待测样本，以生成测试用例；将测试用例输入数据分类模型进行推理，当测试用例对应的预测结果与待测样本对应的原始预测结果不一致时，确定测试用例为异常决策测试用例。