摘要
本发明提供了一种集成预训练语言模型的跨领域时间序列补全方法,输入多个领域的多变量时间序列;对完整数据进行缺失掩盖操作,在数据归一化与分块之后,对时间序列数据生成缺失掩码,并根据掩码对原始时间序列进行处理;随机生成两组掩码,分别表示不同的缺失模式;通过掩码将时间序列的部分值屏蔽,得到带掩码的时间序列分别表示两种不同的缺失场景;模拟真实场景中的数据缺失模式,让模型能适应各种不完整的时间序列数据;初始化模型参数,采用在自然语言上预训练得到的时序补全基础模型的参数作为初始化的权重;输入序列标准化并对序列切片。能够对训练阶段未见过的任何不完整时间序列执行缺失数据补全任务。
技术关键词
预训练语言模型
补全方法
模拟真实场景
序列切片
数据
时序分布信息
自然语言
模型预训练
多层感知机
参数
模式
变量
分块
线性
阶段
基础
系统为您推荐了相关专利信息
供热负荷预测
温度预测方法
温度预测模型
历史运行数据
序列
固态硬盘控制器
指令
垃圾回收方法
队列
计算机存储介质
稀疏反射系数
正则化参数
高分辨率雷达
步进频率雷达
回波