摘要
本发明公开了一种面向具身智能系统的示例代码恶意注入安全测试方法及装置,首先,采用预设攻击范式向目标具身智能设备未篡改示例代码列表注入恶意代码,得到受攻击列表。接着,设备接收自然语言形式的第一指令,将其与受攻击列表发送至云端大语言模型,模型推理出第一可执行代码,设备执行后结合代码判断执行结果是否符合预期,不符则记为误触发。之后,设备接收第二指令,同样与受攻击列表发送至模型,得到第二可执行代码并执行,符合预期则记为攻击成功。重复上述过程多次,确定误触发率和攻击成功率,并加权计算,得出目标具身智能设备的脆弱性评估值。本发明的目的在于解决具身智能系统无效安全测试机制的问题。
技术关键词
智能系统
测试方法
智能设备
大语言模型
列表
指令
自然语言
云端
处理器
计算机设备
存储器
信号
机制
系统为您推荐了相关专利信息
内容智能推荐
视频内容特征
视频内容推荐
个性化视频
内容推荐模型
大语言模型
智能决策方法
实体间关系
数据库系统
结构化数据格式