摘要
本发明公开一种图神经网络蒸馏方法、系统、设备及介质,涉及边缘部署技术领域,该方法包括:在图神经网络教师模型与学生模型之间引入盒式特征聚合特征提取模块,通过盒式特征聚合特征提取模块提取并聚合图神经网络模型中多个尺度的图结构信息,得到盒聚集损失,再基于盒聚集损失与学生模型本身的预测损失形成的盒聚集蒸馏总损失训练该学生模型,使用训练完成的学生模型用于指定任务;该方法最大限度地减少中间层的特征差异,从而促进从教师模型中成功转移多尺度知识和深层结构知识。
技术关键词
蒸馏方法
神经网络模型
学生
输出特征
教师
盒子
特征提取模块
中间层
节点特征
BFS算法
广度优先搜索
可读存储介质
盒特征
蒸馏系统
邻居
处理器
计算机设备
超参数