摘要
本发明公开了一种基于可学习图补丁的面向跨领域图模型预训练方法和系统,属于图模型训练技术领域。获取多源域的预训练图数据集;将预训练图数据集中的每个图数据的节点特征拆分为各通道的节点令牌集合,各通道的节点令牌集合及其相应通道的图结构作为该通道的关键图补丁;编码图数据中各通道的关键图补丁并聚合后作为图数据表征;基于图数据表征结果,引入特征遮蔽复原任务和图邻居上下文预测任务对各模块预训练,预训练后的模块组合作为用于提取目标域图数据表征的跨领域图模型,以实现目标域图数据的下游任务。本发明实现了将分解后的关键图补丁在无辅助信息情况下从不同源域图数据中提取可迁移信息,提升了图模型在多领域任务中的迁移性能。
技术关键词
补丁
预训练方法
令牌
节点特征
数据
通道
编码模块
社交网络图
神经网络模型
邻居
模型训练技术
模型预训练
多层感知机
解码器
推荐系统
注意力机制
系统为您推荐了相关专利信息
加密系统
保密模块
功能模块
解密
计算机加密技术
货车
分级管控系统
大数据画像
多模态特征融合
分布式计算框架
新能源场站技术
编制方法
数据一致性验证
报告
光伏电站技术
项目
语义解析信息
自动生成方法
表格
优先级算法