摘要
本发明涉及一种超图神经网络推理方法及系统,该方法包括:从压缩的超图拓扑表示中提取具有最高度数顶点的拓扑信息;识别具有最高度数的公共顶点和与之相连的超边并发送至任务队列;基于任务队列中的且来自于公共顶点表的公共顶点并行触发对各个超边的超边聚合操作;执行超边的超边聚合操作,将产生的超边聚合中间结果临时存储在片上缓存单元的中间结果缓冲区,并且在基于超图拓扑中超边存储的顺序依次执行超边的超边聚合操作的过程中,重用来自公共顶点表的公共顶点的超边聚合中间结果,从而得到每个超边的超边聚合最终结果。本发明使计算任务更为紧凑地执行,同时通过缓存重用避免了大量不必要的访存和通信,提高超图神经网络推理的计算效率。
技术关键词
顶点特征
加载单元
神经网络推理
条目
推理方法
数据同步
字段
队列
数据项
列表
模块
控制单元
矩阵
指令
系统为您推荐了相关专利信息
深度神经网络模型
可信执行环境
推理方法
网络部署
通道注意力机制
任务调度策略
顶点特征
加速器
任务调度器
缓冲模块
制冷系统节能
冷却液
智能算法
频率
设备运行状态