基于可学习掩码的自监督生成式预训练-微调方法

本发明公开了基于可学习掩码的自监督生成式预训练‑微调方法，对时序数据切段处理，将多通道时序数据集中的每一个通道等间隔切分成为多个片段，各片段中只包含一个通道的数据点；采用Transformer编码器重构掩码片段；更换输出层为预测层以及分类层，根据不同类型的下游任务，对预训练的Transformer编码器进行两阶段微调。能够充分利用工业生产过程中产生的无标签数据，提升深度学习模型的数据学习能力。对包含有益时序特征更多的时序片段进行掩码，让模型学习到更多的数据潜在特征。能够让模型在不同的下游任务中获得较好的结果。