摘要
一种基于三路混合编码与MOE架构的特征提取与融合方法,包括:获取时序数据及其N维特征数据,将N维特征数据按行分割为N组子序列数据;通过有相同参数的共有编码器提取得到N组共有特征;通过N个有不同参数的私有编码器提取得到N组私有特征;将共有特征按列堆叠得到共有特征矩阵,将私有特征按列堆叠得到私有特征矩阵,将共有特征矩阵和私有特征矩阵按列堆叠得到混合特征矩阵;搭建三路Transformer混合专家模型;将三个矩阵分别输入到三路Transformer混合专家模型的三条支路,门控机制控制选择Transformer专家计算特征建模子任务;三条支路分别得到相应的输出特征;利用前馈神经网络融合各输出特征,得到特征结果。
技术关键词
混合特征矩阵
融合方法
输出特征
前馈神经网络
编码器
一维卷积神经网络
支路
数据
机制
序列
参数
时序
加速度
模块
噪声
系统为您推荐了相关专利信息
车辆部件
深度学习模型
智能识别方法
数据预处理方法
编码器
物理化学特征
交叉注意力机制
特征提取模型
序列
多层感知机
脉冲
矩阵
训练样本集
训练图像分类模型
图像分类方法
多模态图像数据
表达式
图像配准系统
上采样
图像像素
油气田产量
时空注意力机制
单井产量
溯源方法
层级