摘要
本发明提供了一种基于transformer的联邦图数据挖掘方法及系统,具体包括如下步骤:步骤S1,利用一个简化的transformer模块对客户端内的节点关系进行挖掘,得到客户端内所有节点的高维表征,将高维表征与客户端的模型中的GCN层输出得到的表征共同输入到全连接层做分类预测任务,得到标签分类任务,解决注意力聚合过程中的负相关性问题;以及步骤S2,根据标签分类任务,将不同客户端内的数据分为个性化层的参数以及共性层的参数,固定住个性化层的参数不做聚合,不断上传共性层的参数进行聚合,迭代得到收敛的联邦训练的模型。
技术关键词
数据挖掘方法
客户端
数据挖掘系统
参数
有效性验证方法
标签
Softmax函数
矩阵
学习算法
节点特征
消息传递机制
多头注意力机制
损失函数优化
邻居
场景
联邦模型
训练集
系统为您推荐了相关专利信息
膈肌功能障碍
时间序列模型
图像分割模型
参数
高频超声探头
管理系统
时序预测模型
动态规划模型
信息采集模块
迭代优化算法
机器学习模型
IOT系统
工业生产
特征选择
设备状态数据