一种基于约束指导和冗余计算的跨域并行策略生成技术

一种基于约束指导和冗余计算的跨域并行策略生成技术，研究跨域分布式计算框架如何动态地生成云边端跨域训练并行策略的问题。首先，研究运行时并行计划重生成机制，通过构建约束模型和性能模型，拟和云边端环境变化缩小搜索空间，并应用优化的图匹配算法得到最终的运行时匹配；其次，研究运行时多并行计划并行执行机制，通过构建显存约束和并行覆盖率模型，决定具体的切换计划，得到新的Micro‑Batch的并行计划，并完成相关并行计划的切换和执行。通过上述机制，根据环境的动态变化，动态、快速的生成并行策略生成，缩短策略搜索时间和切换影响，有效应对云边端计算环境的动态性。