摘要
本发明提供一种基于双重图神经网络知识蒸馏的图结构数据处理方法,涉及图结构数据处理技术领域,该方法为将图结构数据训练集输入教师模型和所述学生模型,得到输出层的知识蒸馏损失;利用基于注意力的自适应逐层知识对齐机制,得到逐层知识蒸馏损失;利用基于注意力的自适应层间知识传递机制,得到层间知识蒸馏损失;基于输出层的知识蒸馏损失、逐层知识蒸馏损失和层间知识蒸馏损失构建混合损失函数,对所述学生模型进行训练,得到训练好的学生模型,对图结构数据集进行处理,得到图结构数据处理结果,完成基于双重图神经网络知识蒸馏的图结构数据处理。本发明解决了图神经网络处理图结构数据的计算成本高、内存占用高和准确度低问题。
技术关键词
结构数据处理方法
蒸馏
混合损失函数
注意力
学生
教师
表达式
节点
邻居
矩阵
模型预测值
数据处理技术
训练集
机制
标签
线性
参数
内存
指数
系统为您推荐了相关专利信息
配网变电站
电压控制方法
深度特征提取
多模态
网络拓扑结构
深度神经网络模型
静态特征
异构
节点特征
计算机存储介质
多模态特征
跟踪方法
跨模态
检测损失
输入解码器
数据去噪方法
相关性噪声
神经网络模型
代表
多分支