摘要
本发明涉及人工智能和神经网络技术领域,特别涉及一种基于多教师知识蒸馏的神经网络故障感知训练方法,包括多个教师神经网络和一个学生神经网络,神经网络包括特征提取子网络和分类子网络,每个教师神经网络注入不同的故障比率,并将教师模型训练至收敛;将训练样本分别输入多个教师模型和学生模型,并计算每个教师模型与学生模型之间的损失;分别根据对应的损失函数值更新蒸馏温度以及每个教师模型的权重,直到学生模型收敛。本发明采用利用多教师知识蒸馏和输出值的熵相结合的技术,使模型在不同程度的噪声下具有高准确率,有利于增强神经网络的故障容错性。
技术关键词
教师
神经网络模型
学生
蒸馏
联合分布函数
神经网络技术
比率
样本
超参数
符号
标签
噪声
系统为您推荐了相关专利信息
网络安全系统
精确控制方法
服务器
模糊推理
反病毒软件
数字病理切片
预测模型训练方法
网络
学生
注意力
火灾检测系统
数据处理模块
神经网络模型
火灾检测方法
多传感器
动态优化方法
呼叫中心系统
长短期记忆网络
PBX系统
平均等待时间
高光谱图像数据
卷积神经网络模型
识别方法
光谱特征提取
空间特征提取