一种模型测试方法和装置

AITNT
正文
推荐专利
一种模型测试方法和装置
申请号:CN202411487200
申请日期:2024-10-23
公开号:CN119537876A
公开日期:2025-02-28
类型:发明专利
摘要
本申请公开了一种模型测试方法和装置。通过获取初始模型多个风险查询,对各所述风险查询进行拆分以得到查询组,所述查询组包括多个子查询,基于所述查询组对所述初始模型进行训练以获取红队模型,通过所述红队模型对待测试模型的测试。由此,通过将单轮查询拆分为多轮子查询,以绕过待测试模型的安全防护机制,挖掘并暴露待测试模型的安全漏洞,提升对模型测试的有效性。
技术关键词
模型测试方法 计算机程序指令 风险 模型测试装置 策略 数据收集单元 模板 存储计算机程序 处理器 可读存储介质 存储器 单轮 有效性 电子设备 轮子 逻辑 机制 社会
系统为您推荐了相关专利信息
1
用于互动的模型训练方法、装置、设备、介质和程序产品
机器学习模型 计算机可执行指令 数据 模型训练方法 进程
2
一种基于电力物联网云边端协同的资源优化方法及系统
资源优化方法 终端 队列模型 时延 动态分配策略
3
一种基于指标语义模型的SQL智能生成与优化系统及方法
结构化查询语言 语义 指标 树状结构 机器学习模型
4
一种基于多源数据融合的高速列车主动防脱轨装置及方法
动态参数检测装置 防脱轨装置 故障诊断装置 弹性缓冲部件 脱轨系数
5
电机控制器的最坏情况分析方法、终端及介质
电路仿真模型 电机控制器 风险评估分析方法 元器件 指标
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号