摘要
基于量子‑经典联合结构的transformer模型及训练方法,基于变分量子线路的Transformer模型构建,在传统Transformer的基础上,引入基于变分量子线路的量子神经网络结构,结合经典神经网络模块构建连接求和结构,形成一种新型的量子‑经典混合Transformer结构;基于构建量子‑经典混合结构的前馈神经网络,通过量子‑经典混合Transformer架构的训练,求出输出结果对模型参数的梯度;利用梯度下降法优化、更新参数。结合量子计算的计算性能潜力,本发明有望充分利用量子计算的性能,结合经典Transformer模块的能力作为补充,得到不弱于传统Transformer的能力。本发明将适用于自然语言处理、基因组分析等应用场景。
技术关键词
多头注意力机制
量子前馈神经网络
Softmax函数
网络模块
量子神经网络
量子态
电路
线路
序列
编码
梯度下降法
数据嵌入
掩码矩阵
线性
嵌入位置信息
混合结构
系统为您推荐了相关专利信息
实体
视觉问答方法
问答模型
文本编码器
图像编码器
编解码器
卫星遥测数据
多通道
无监督学习
重建误差
多模态深度学习
溶解气体体积分数
套管介质损耗
卷积编码器
集成梯度
系统安全评估方法
超参数
风车
双向长短期记忆网络
序列
数字孪生模型
损伤识别方法
桥梁结构
有限元仿真模拟
深度量子神经网络