一种基于量子-经典联合结构的transformer模型及其训练方法

AITNT
正文
推荐专利
一种基于量子-经典联合结构的transformer模型及其训练方法
申请号:CN202510783880
申请日期:2025-06-12
公开号:CN120633717A
公开日期:2025-09-12
类型:发明专利
摘要
基于量子‑经典联合结构的transformer模型及训练方法,基于变分量子线路的Transformer模型构建,在传统Transformer的基础上,引入基于变分量子线路的量子神经网络结构,结合经典神经网络模块构建连接求和结构,形成一种新型的量子‑经典混合Transformer结构;基于构建量子‑经典混合结构的前馈神经网络,通过量子‑经典混合Transformer架构的训练,求出输出结果对模型参数的梯度;利用梯度下降法优化、更新参数。结合量子计算的计算性能潜力,本发明有望充分利用量子计算的性能,结合经典Transformer模块的能力作为补充,得到不弱于传统Transformer的能力。本发明将适用于自然语言处理、基因组分析等应用场景。
技术关键词
多头注意力机制 量子前馈神经网络 Softmax函数 网络模块 量子神经网络 量子态 电路 线路 序列 编码 梯度下降法 数据嵌入 掩码矩阵 线性 嵌入位置信息 混合结构
系统为您推荐了相关专利信息
1
基于推理路径提示的多跳视觉问答方法
实体 视觉问答方法 问答模型 文本编码器 图像编码器
2
一种基于无监督学习的多通道卫星遥-测数据异常检测方法及系统
编解码器 卫星遥测数据 多通道 无监督学习 重建误差
3
一种基于多模态深度学习的变压器故障诊断方法、系统、设备及存储介质
多模态深度学习 溶解气体体积分数 套管介质损耗 卷积编码器 集成梯度
4
一种基于KCBMA算法的风车桥系统安全评估方法
系统安全评估方法 超参数 风车 双向长短期记忆网络 序列
5
一种桥梁结构三维损伤识别方法
数字孪生模型 损伤识别方法 桥梁结构 有限元仿真模拟 深度量子神经网络
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号