用于模型的安全评估方法、装置、设备和存储介质

AITNT
正文
推荐专利
用于模型的安全评估方法、装置、设备和存储介质
申请号:CN202411378321
申请日期:2024-09-30
公开号:CN119538254A
公开日期:2025-02-28
类型:发明专利
摘要
本申请涉及数据处理技术领域,尤其提供一种用于模型的安全评估方法、装置、设备和存储介质,首先,获取待评估模型,然后基于待评估模型的特征选取目标攻击方法,并利用目标攻击方法生成攻击样本;然后,利用攻击样本攻击待评估模型,并获取待评估模型在被攻击过程中的多维度响应数据;对多维度响应数据进行量化分析,得到安全评分,安全评分用于指示待评估模型的安全性。对模型在面对恶意攻击时的安全性进行评估,提升安全评估的准确性和全面性。
技术关键词
生成攻击样本 策略 自动语音识别 数据处理方式 数值 文本 数据处理技术 数据获取模块 迭代方法 处理器 计算机视觉 评估装置 自然语言 网络结构 存储装置 分析模块 符号 程序
系统为您推荐了相关专利信息
1
一种火电供热控制方法及系统
供热控制方法 汽轮机热耗率 工况特征 供热系统 火电
2
一种基于强化学习的电网物资定额管理方法及系统
特征数据库 构建分类模型 电网物资管理 指纹 电力系统管理技术
3
一种面向嵌入框架的雷击火偏微分方程求解方法
嵌入框架 方程 神经网络结构 数值 网格
4
基于多源异构数据语义融合的充电设备故障诊断方法和系统
充电设备 多源异构数据 故障图片 LSTM模型 故障诊断方法
5
基于边缘集群体系下可调资源分配方法及装置
资源分配算法 分布式电源 分布式资源 资源分配策略 生成可调
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号