摘要
本申请公开了一种模型测试方法和装置。通过获取初始模型多个风险查询,对各所述风险查询进行拆分以得到查询组,所述查询组包括多个子查询,基于所述查询组对所述初始模型进行训练以获取红队模型,通过所述红队模型对待测试模型的测试。由此,通过将单轮查询拆分为多轮子查询,以绕过待测试模型的安全防护机制,挖掘并暴露待测试模型的安全漏洞,提升对模型测试的有效性。
技术关键词
模型测试方法
计算机程序指令
风险
模型测试装置
策略
数据收集单元
模板
存储计算机程序
处理器
可读存储介质
存储器
单轮
有效性
电子设备
轮子
逻辑
机制
社会
系统为您推荐了相关专利信息
机器学习模型
计算机可执行指令
数据
模型训练方法
进程
结构化查询语言
语义
指标
树状结构
机器学习模型
动态参数检测装置
防脱轨装置
故障诊断装置
弹性缓冲部件
脱轨系数
电路仿真模型
电机控制器
风险评估分析方法
元器件
指标