摘要
本申请实施例提供了一种防御对抗样本攻击的方法、系统及存储介质,用于增强对抗样本攻击的防御效果,所述方法包括:获取组合不确定性表达式;所述组合不确定性表达式为对神经网络模型的认知不确定性和偶然不确定性进行组合的表达式;基于所述组合不确定性表达式进行模型训练,得到对抗样本检测模型;在接收到待搜索文本时,将所述待搜索文本输入至所述对抗样本检测模型,确定待搜索文本类型;所述待搜索文本类型包括:正常文本和非正常文本;若所述待搜索文本类型为所述非正常文本,则拒绝搜索请求。
技术关键词
神经网络模型
样本
表达式
文本
随机噪声
搜索模块
可读存储介质
计算机
处理器
关系
参数
系统为您推荐了相关专利信息
图像分割方法
多尺度
空间特征提取
语义特征
特征提取模块
策略优化方法
机器人头部
NURBS曲线
轴向冲击载荷
超参数