摘要
一种基于历史嵌入缓存的单机图神经网络优化方法及系统,通过对训练数据集进行预先采样分析收集采样数据,结合启发式方法计算得到每一层级历史嵌入缓存大小后,根据计算得到的各层级历史嵌入缓存大小设置缓存,并执行预采样,即循环进行基于子图的采样:每次采样过程中模拟缓存替换,进行子图剪枝并得到节点访问序列和子图拓扑连接关系,经重复若干次采样得到对应个数的训练子图后,计算若干步最优特征缓存替换并保存最优特征缓存替换信息;当加载训练子图进行实际训练时,每轮训练时结合采样子图进行历史嵌入推送/拉取,并结合最优特征缓存替换信息进行底层特征缓存替换后,实现单机图神经网络优化。
技术关键词
神经网络优化方法
节点
启发式方法
替换算法
神经网络优化系统
目录
层级
序列
训练器
数据
分析模块
图元
动态更新
信息更新
邻居
邻域
关系
队列
标记
系统为您推荐了相关专利信息
A星算法
人工势场法
节点
路径规划方法
局部路径规划
网关
虚拟MAC地址
访问控制列表规则
VXLAN报文
流量传输方法
切比雪夫
潮流计算方法
潮流方程
坐标系
分布式风电
网络拓扑估计方法
信息瓶颈理论
节点
恢复网络拓扑
序列
深度强化学习
最大化方法
节点
邻域
多头注意力机制