一种基于奖励模型和chatGLM模型的安全防护有效性评估方法

AITNT
正文
推荐专利
一种基于奖励模型和chatGLM模型的安全防护有效性评估方法
申请号:CN202411692893
申请日期:2024-11-25
公开号:CN119622738A
公开日期:2025-03-14
类型:发明专利
摘要
本发明公开了一种基于奖励模型和chatGLM模型的安全防护有效性评估方法,首先抓取通用评估规则,安全防护特征、安全失效点及失效原因作为训练数据,通过粗略人工干预形成评估数据和规则打分的映射对,以此来训练奖励模型,得到评分模型,同时,将上述映射对转化为问答形式数据对chatGLM大模型进行微调,训练完成后,在推断阶段采用深度学习技术提取出输入的评估规则和防护评估结果的语义交互特征,然后输入微调后的大模型进行内容表达优化,进而将优化后的评估规则和防护评估结果输入训练好的评分模型进行评分,以得到安全防护有效性评估值,由此可以实现对安全防护体系的自动化、智能化评估,提高评估效率和准确性,满足大规模数据处理的需求。
技术关键词
有效性评估方法 特征值 防护特征 序列 非线性 因子 防护体系 Sigmoid函数 上下文语义信息 数据 矩阵乘法运算 词嵌入技术 平方根 深度学习技术 超参数 可读存储介质 存储计算机程序
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号