摘要
本发明涉及深度神经网络的修复问题,首先基于神经权重对正负样本的分类贡献度和梯度损失,加权计算每个神经权重的综合影响值,选取综合影响值最高的层的前k%神经权重作为待修复权重;然后设置待修复权重的修改值为符号变量,生成符号网络模型,计算负样本在符号网络模型上每层激活函数之前的符号输出值,并根据样本在原始模型上的激活情况为符号网络模型生成约束条件,且在输出层生成修复错误行为的约束条件;最后通过求解器求解符号变量的值,更新模型权重。本发明选取出对负样本影响较高但对正样本影响较小的神经权重作为修复目标,且修复过程中通过约束条件和目标函数使得对模型的修改尽可能的小,避免对模型的正确行为产生影响,且通过约束条件保证了对错误行为的修复。
技术关键词
符号网络模型
深度神经网络
样本
生成符号
修复方法
变量
中间层
标签
系统为您推荐了相关专利信息
攻击数据生成方法
训练语言模型
模型训练方法
样本
非暂态计算机可读存储介质
服务配置方法
多元线性回归模型
乘用车
画像
分类阈值