摘要
本发明公开了一种基于多任务场景的大模型网络安全等级保护领域知识增强方法、系统及相关设备,属于网络安全和自然语言处理技术领域。本发明首先构建网络安全等级保护专家知识库;然后使用稠密检索器基于给定的查询提示词从网络安全等级保护专家知识库中检索一组相关文本序列并计算检索准确似然;接下来利用大语言模型作为评分函数,计算每个相关文本序列对于给定查询提示词和大模型生成的内容的准确似然;最后通过最小化检索准确似然和生成准确似然的KL散度来训练稠密检索器,并异步更新数据存储索引。本发明提供的方案可以解决大模型缺乏网络安全等级保护领域的系统性知识能力的问题,且适用于无法访问内部参数的大型黑盒语言模型。
技术关键词
专家知识库
文本
序列
数据存储
多任务
索引
模块
大语言模型
数据处理设备
双编码器
场景
计算机程序产品
自然语言
可读存储介质
参数
资料
处理器
系统为您推荐了相关专利信息
文本特征向量
图像生成方法
图像编码
指令
多模态
姿态检测器
变电站设备智能
分析管理系统
图像
分析管理方法
安全更新方法
安全更新系统
签名模块
固件升级失败
私钥
神经网络模型
非线性时间序列
正则化参数
状态更新机制
矩阵