面向具身智能系统的示例代码恶意注入安全测试方法及装置

AITNT
正文
推荐专利
面向具身智能系统的示例代码恶意注入安全测试方法及装置
申请号:CN202510754016
申请日期:2025-06-06
公开号:CN120654236A
公开日期:2025-09-16
类型:发明专利
摘要
本发明公开了一种面向具身智能系统的示例代码恶意注入安全测试方法及装置,首先,采用预设攻击范式向目标具身智能设备未篡改示例代码列表注入恶意代码,得到受攻击列表。接着,设备接收自然语言形式的第一指令,将其与受攻击列表发送至云端大语言模型,模型推理出第一可执行代码,设备执行后结合代码判断执行结果是否符合预期,不符则记为误触发。之后,设备接收第二指令,同样与受攻击列表发送至模型,得到第二可执行代码并执行,符合预期则记为攻击成功。重复上述过程多次,确定误触发率和攻击成功率,并加权计算,得出目标具身智能设备的脆弱性评估值。本发明的目的在于解决具身智能系统无效安全测试机制的问题。
技术关键词
智能系统 测试方法 智能设备 大语言模型 列表 指令 自然语言 云端 处理器 计算机设备 存储器 信号 机制
系统为您推荐了相关专利信息
1
基于深度学习的IPTV机顶盒视频内容智能推荐方法
内容智能推荐 视频内容特征 视频内容推荐 个性化视频 内容推荐模型
2
一种手机号码一键登录弱网的改进方法及电子设备
网络处理器 DNS解析 超时机制 控制器 端口
3
一种基于大语言模型的通用文本匹配表单的方法及系统
大语言模型 表单 文本 数据 字段
4
一种基于图谱检索增强生成与数字飞行规则的低空飞行智能决策方法
大语言模型 智能决策方法 实体间关系 数据库系统 结构化数据格式
5
一种基于可编程交换机的分布式模型训练在网汇聚方法
可编程交换机 分布式模型 汇聚方法 索引 列表
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号