摘要
本申请涉及大模型训练的技术领域,公开一种基于频域表征学习的时序大模型构建方法及存储介质,包括:对原始的时间序列数据转化为频域表示,从中提取出每个频率成分的振幅和相位,每一组振幅和相位对应一个基函数;使用大模型对基函数进行特征提取和表征学习,引入注意力机制,使大模型可自适应地聚焦对任务最为关键的频域成分;联合重构头和预测头进行优化,根据预设的纯频域损失函数,优化真实值与模型输出值在频域中的振幅和相位偏差;特征提取的频域特征通过学习基函数自身的特征及相互关系,构建时间序列的统一频域表征,纯频域损失函数增强对频域表征的学习效果,可灵活适配不同的下游任务。
技术关键词
模型构建方法
重构
引入注意力机制
Adam算法
时序
历史数据统计
协方差矩阵
偏差
频域特征
网络结构
序列
参数
场景
频率
阶段
误差
程序
关系
系统为您推荐了相关专利信息
光伏发电设备
异常检测方法
多维时序数据
识别时间序列
记忆单元
预警方法
大田环境
BiLSTM模型
Sigmoid函数
场景
信息安全加密方法
动态随机数
密钥管理服务器
网络
生成算法
流量调度方法
时间敏感业务
粒子群算法
集中式控制器
卫星转发器