一种针对视觉-语言-动作模型的链式推理隐蔽后门漏洞检测方法

AITNT
正文
推荐专利
一种针对视觉-语言-动作模型的链式推理隐蔽后门漏洞检测方法
申请号:CN202510617783
申请日期:2025-05-14
公开号:CN120509039A
公开日期:2025-08-19
类型:发明专利
摘要
本申请涉及具身智能安全评估领域,具体公开了一种视觉‑语言‑动作模型的链式推理隐蔽后门漏洞检测方法,包括以下步骤:在视觉和语言输入中分别注入微小像素扰动和罕见字符标记;基于模型自回归预测特性,设计融合正常推理步骤与异常后门分支的混合推理链;采用前缀调优将混合推理序列作为可插拔前缀注入模型;通过系统性验证流程检测模型生成异常动作指令的漏洞敏感性。相比现有方法,本发明优势在于:基于前缀调优的无损检测机制,无需修改模型参数或依赖训练数据,保障检测的安全性与易复现性;构建多模态触发机制,有效揭示复杂场景中模型的隐蔽脆弱性;链式融合异常分支与正常流程,可系统性评估模型对于隐蔽性逻辑偏移的防御能力。
技术关键词
漏洞检测方法 后门 词频统计筛选 多模态 分支 视觉 机器人控制 参数 序列 信号 生成算法 指令 注意力机制 文本 生成方法 像素 标记 场景 字符 动态
系统为您推荐了相关专利信息
1
基于多模态信息的高速公路养护知识问答方法及系统
高速公路养护 互补性特征 知识问答方法 语义特征 多模态信息
2
基于大模型的多模态语音交互方法、电子设备和存储介质
对话策略 语音交互方法 视频特征向量 语义 图像特征向量
3
基于强化学习与防护层的3D点云大模型对话安全防护系统及方法
防护系统 语义特征 对齐模块 策略 文本
4
一种基于云端平台的储蓄柜录入方法及系统
物品特征 时序特征 多模态 云端 档案结构
5
基于大模型的医学数据处理方法、系统及相关设备
医学数据处理方法 智能体系统 动脉粥样硬化性 风险预测模型 多模态
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号