一种集成预训练语言模型的跨领域时间序列补全方法

AITNT
正文
推荐专利
一种集成预训练语言模型的跨领域时间序列补全方法
申请号:CN202411955224
申请日期:2024-12-27
公开号:CN119884600A
公开日期:2025-04-25
类型:发明专利
摘要
本发明提供了一种集成预训练语言模型的跨领域时间序列补全方法,输入多个领域的多变量时间序列;对完整数据进行缺失掩盖操作,在数据归一化与分块之后,对时间序列数据生成缺失掩码,并根据掩码对原始时间序列进行处理;随机生成两组掩码,分别表示不同的缺失模式;通过掩码将时间序列的部分值屏蔽,得到带掩码的时间序列分别表示两种不同的缺失场景;模拟真实场景中的数据缺失模式,让模型能适应各种不完整的时间序列数据;初始化模型参数,采用在自然语言上预训练得到的时序补全基础模型的参数作为初始化的权重;输入序列标准化并对序列切片。能够对训练阶段未见过的任何不完整时间序列执行缺失数据补全任务。
技术关键词
预训练语言模型 补全方法 模拟真实场景 序列切片 数据 时序分布信息 自然语言 模型预训练 多层感知机 参数 模式 变量 分块 线性 阶段 基础
系统为您推荐了相关专利信息
1
基于室内温度分析的热负荷与供水温度预测方法及装置
供热负荷预测 温度预测方法 温度预测模型 历史运行数据 序列
2
固态硬盘的垃圾回收方法、固态硬盘控制器、存储介质及电子设备
固态硬盘控制器 指令 垃圾回收方法 队列 计算机存储介质
3
数据管理等级跃迁条件确定方法、装置、设备及存储介质
智能仿真平台 仿真环境 蒙特卡洛 结构算法 图谱
4
一种适用于低分辨条件下的步进频探地雷达高分辨成像方法
稀疏反射系数 正则化参数 高分辨率雷达 步进频率雷达 回波
5
基于多模态知识图谱和大语言模型的故障诊断问答系统
多模态 图谱 问答系统 时序 预训练模型
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号