摘要
本发明公开了一种基于大模型的行业专属定制模型生成方法,包括以下关键步骤:首先,收集目标行业内包含关键实体、概念和关系的结构化和半结构化多模态数据;然后,通过深度学习方法构建知识图谱;再在模型构建阶段,精选预训练的大语言模型,根据行业特点进行特征工程和模型架构的个性化调整;在构建好的知识图谱基础上,采用基于知识图谱的检索增强技术,优化大语言模型的回答内容并注入目标行业领域知识;最后,利用强化学习算法,通过训练奖励模型优化模型输出。本发明实现了行业专属模型的专业化定制,显著提高了大语言模型在目标行业领域的问答能力,确保了模型在回答目标行业相关问题时的高准确性和高相关性。
技术关键词
模型生成方法
大语言模型
条件随机场
实体
序列
标签
知识图谱数据库
深度学习方法
非结构化文本
解码器
答案
构建知识图谱
强化学习算法
矩阵
编码器
路径追踪算法
sigmoid函数
多源异构信息