摘要
本发明提供了一种基于扩散模型和大语言模型的智能答疑方法,涉及问答模型技术领域,包括以下步骤:收集大量用户问题、文本以及它们所对应的关键词,基于此训练文本扩散模型;收集大量书籍文本以及用户‑老师问答数据,使用书籍文本预训练开源的大语言模型,使用用户‑老师问答数据调整大语言模型;用户询问问题后,文本扩散模型将用户问题转化为关键词向量,与用户问题一起输入到大语言模型中,计算出对问题中每个字的关注程度,输出答疑内容;本发明训练文本扩散模型抽取关键词信息,融入到大语言模型的文本嵌入层,从而给大语言模型的文本嵌入向量融入关键词信息,增强模型对复杂问题中关键部分的关注程度。
技术关键词
智能答疑方法
大语言模型
文本
随机噪声
问答模型技术
书籍
老师
抽取关键词
BERT模型
数据嵌入
注意力
编码
答案
变量
误差
模块
系统为您推荐了相关专利信息
鲁棒性评估方法
生成系统
文本
组件模块
模糊测试技术
案件数据
大语言模型
图谱构建方法
线索
分析模块