摘要
本发明涉及大模型领域,具体公开一种检索增强型域适应问答模型构建方法、系统、终端及介质,使用预处理后的通用领域知识构造通用领域问答对;使用通用领域问答对对大型语言模型进行指令微调,获得微调后的大型语言模型;通过微调后的大型语言模型从专业领域知识中提取答案内容;利用微调后的大型语言模型根据答案内容生成对应的问题,构造专业领域问答对;将通用领域问答对和专业领域问答对结合为训练集,对微调后的大型语言模型再次微调,并重复微调直到大型语言模型的性能符合评估标准。本发明在无需大量标签样本的基础上提高对专业领域的快速适应能力,且提高问答任务中在专业领域的准确性和可靠性。
技术关键词
问答模型
答案
专业
损失函数优化
训练集
可读存储介质
模块
构建系统
程序
指令
终端
处理器
分词
文本
实体
存储器
计算机
标签
样本
系统为您推荐了相关专利信息
特征提取模块
样本
分类模型训练方法
交叉注意力机制
融合特征
梯度提升模型
回归树模型
随机森林模型
参数预测方法
生物