摘要
本申请公开了一种医学长文本问答方法、装置、电子设备及存储介质,该方法包括:将第一扩大系数乘以原始基础频率,得到目标基础频率;将第二扩大系数乘以原始缩放因子,得到目标缩放因子;在RoPE编码层中,基于目标基础频率和目标缩放因子,对语义单元的第一嵌入数据进行编码,得到语义单元的第二嵌入数据;按预设的分组策略,将多个语义单元的第二嵌入数据分成多个分组;将分组输入到大语言模型的注意力层中,对当前分组进行注意力计算,得到分组对应的计算结果,将分组对应的计算结果进行合并,得到注意力层输出的注意力结果。本申请有利于提高大语言模型在长文本问答数据上的推理效果。
技术关键词
问答方法
大语言模型
文本
语义
注意力
医学
数据
电子设备
因子
频率
基础
策略
索引
可读存储介质
问答装置
处理器
阶段
编码模块
系统为您推荐了相关专利信息
行人检测方法
网络
非线性特征
采样模块
注意力机制
池化特征
道路交通信号控制方法
道路交通信号控制装置
注意力
信号灯