摘要
本发明的实施例提供了一种文档处理方法、文档问答优化方法、电子设备及存储介质,涉及自然语言处理技术领域。通过将经过预处理的文档篇章数据的篇章编码序列输入大语言模型,计算大语言模型的各网络层的第一键向量序列以及第一值向量序列,将每一组第一键向量序列以及第一值向量序列作为文档篇章数据的一个中间注意值,计算出每个中间注意值的权重得分,根据各权重得分的大小,剔除预设比例的中间注意值,将保留的各中间注意值作为文档篇章数据的紧凑注意力表示。从而可以在用户提问时,根据紧凑注意力表示生成回答文本,可以提高大语言模型的计算效率,进而显著提升问答过程的速度和效率。
技术关键词
大语言模型
序列
注意力
语义向量
文本
数据
电子设备
分词
处理器
自然语言
编码
存储器
网络
程序
指令
速度
系统为您推荐了相关专利信息
状态监测方法
ARIMA模型
发电设备
序列
状态监测系统
大语言模型
音频编码器
视频帧
序列
非易失性计算机可读存储介质
视频帧匹配方法
视频帧集合
识别神经网络
视角
特征提取模型
序列鉴定方法
高通量测序技术
核酸
基因组测序数据
靶向测序数据
法律文书生成系统
语音识别模块
自然语言
匹配模块
模板