摘要
本发明涉及智慧水利技术领域,公开提供了一种基于知识蒸馏的水工结构大语言模型微调与图检索增强生成方法,具体包括:结合知识蒸馏方法获取水工结构指令微调数据集;使用低秩分解技术对大语言模型展开监督训练,得到水工结构大语言模型;利用水工结构大语言模型识别用户提问意图,并将提问语句转化为知识图谱查询语言;以知识图谱检索结果增强水工结构大模型回答生成的水利专业性与可信度。本发明将水工结构知识嵌入大语言模型中,获得了为水工结构领域量身定做的大语言模型,并将存储在水利知识图谱中的显式知识与大语言模型的隐式知识有效结合,从而保证答案更准确、可溯源,为智慧水利建设提供了有效技术手段。
技术关键词
大语言模型
生成方法
实体识别模型
水工结构工程
非暂态计算机可读存储介质
自然语言
意图
数据
光学字符识别方法
答案
指令
智慧水利技术
多轮对话
知识图谱查询
知识蒸馏方法
文本
BERT模型