摘要
本公开属于自然语言处理技术领域,提供了一种预测模型的构建方法、系统、存储介质和设备,所述方法包括:在预测模型的输入层对数据进行预处理,以将目标编码与目标词向量进行拼接处理,得到对应的目标综合特征表示,并将目标综合特征表示作为预测模型网络层的输入;构建预测模型的网络层,预测模型的网络层包括三层,预测模型的网络层的第一层和第三层均为双层双向长短期记忆网络,预测模型的网络层的第二层为自注意力机制层;以及在预测模型的输出层,通过交叉熵损失函数和余弦相似度训练预测模型的参数,并使用Nadam优化器进行参数的调整和优化,直至调整及优化得到预测模型。
技术关键词
词语依存关系
双向长短期记忆网络
注意力机制
训练预测模型
构建预测模型
文本
优化器
构建系统
编码
可读存储介质
参数
电子设备
自然语言
处理器
指令
模块
存储器
计算机
数据
系统为您推荐了相关专利信息
烟叶图像
稳定性判断方法
通道注意力机制
热力图
区域特征提取
训练优化方法
深度强化学习
样本
建立预测模型
回归算法
故障诊断方法
仿真数据
故障诊断模型
通道
注意力机制
超深防渗墙施工
分布式智能控制
监控方法
蒙特卡洛树搜索
多源异构数据
虚拟网络映射方法
多智能体强化学习
强化学习算法
车联网环境
注意力机制