摘要
本发明公开了一种基于大语言模型的垂直领域信息处理方法和装置,所述方法包括:接收用户请求,通过语义相似度算法根据用户请求从垂直领域知识库中确定出与用户请求最接近的知识信息;根据用户请求和/或知识信息,确定提示词模板,将知识信息填充到提示词模板内,编码得到模型输入矩阵;将模型输入矩阵输入到大语言模型中,得到中间矩阵以及输出矩阵,对输出矩阵进行解码得到输出答案;根据知识信息在模型输入矩阵中的位置,确定中间矩阵中与知识信息对应的信息子矩阵;根据信息子矩阵判断输出答案中是否利用垂直领域知识库中的第一类知识信息。上述技术方案能够解决通用大语言模型由于常规训练数据不涉及垂直领域信息而处理效果不佳的问题。
技术关键词
矩阵
大语言模型
信息处理方法
算术平均值
答案
智能电动汽车
置信度阈值
模板
存储计算机可执行指令
信息处理装置
可读存储介质
操作规程
语义
解码
编码模块
处理器
算法
新产品
格式