一种基于自适应图曼巴的双阶段策略梯度优化自动并行方法

本发明公开了一种基于自适应图曼巴的双阶段策略梯度优化自动并行方法，该方法首先获取公开的AI模型数据集，对数据集中每个计算图进行算子融合，获取计算图的特征矩阵X。然后将X作为初始编码矩阵，输入图曼巴神经网络，得到特征编码，并经过多层感知器生成特征后将输入扰动双阶段策略梯度算法，对于每个训练周期，内部阶段通过扰动噪声生成j种设备放置策略，并更新生成扰动噪声过程中所涉及的参数；外部阶段进行设备放置策略评估，选择最小训练时间策略进行全局参数更新，输出最优设备放置策略。本发明有效地提取节点特征和捕获长期依赖关系来解决传统图神经网络有限的感受野问题，获得最优的设备并行策略。