一种用于Transformer实例分割模型的训练方法

本发明公开了基于Transformer实例分割模型的训练方法，对真值掩码进行图形学变换得到增强真值掩码，在训练阶段基于增强真值掩码计算掩码注意力，在推理阶段基于预测掩码计算掩码注意力。在训练阶段执行多路径query特征传播，即第s解码阶段接受第s‑1解码阶段和第s‑2解码阶段输出的query特征作为本解码阶段的输入query特征。在推理阶段，Transformer实例分割模型仍保持执行单路径query特征传播，即第s解码阶段接受第s‑1解码阶段输出的query特征作为本解码阶段的输入query特征；本发明提出的“增强掩码模块EMM”和“查询多路径传播策略MPQ”应用于不同的Transformer的实例分割模型，均可以有效提升模型的实例分割精度。