一种Transformer模型演化方法及系统

AITNT
正文
推荐专利
一种Transformer模型演化方法及系统
申请号:CN202411648757
申请日期:2024-11-19
公开号:CN119167992B
公开日期:2025-02-28
类型:发明专利
摘要
本发明提供一种Transformer模型演化方法及系统,方法包括:采集变压器运行数据,并选定训练样本,划分得到历史数据集X0和待更新数据集X1;构建时序特征融合模块,将样本数据集X0和待更新数据集X1进行数据特征提取与融合得到高级融合特征Y1;构建数据特征处理模块,利用时序数据差分方法处理得到新特征融合结果Z;构建Transformer时序预测模型,对相似特征数据集Yin进行时序预测得到预测结果Zout,通过增量学习更新Transformer时序预测模型的权重参数。本发明解决了模型稳定性及灵活性较差、预测精度随时间降低以及特征信息丢失的技术问题。
技术关键词
模型演化方法 时序预测模型 融合特征 变压器运行数据 编码向量 时序特征 数据差分方法 数据特征提取 样本 深层特征提取 参数更新模块 GRU模型 特征信息处理 变量 速率 时间差
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号