摘要
本发明涉及安全防护、金融科技及医疗健康技术领域,公开了一种可控的多模态大模型后门攻击方法、装置、设备及介质,包括:若检测到有多模态数据输入至目标多模态大模型,则获取所述多模态数据并解析所述多模态数据以确认所述多模态数据中是否存在扰动信息;若所述多模态数据中存在扰动信息,则在所述多模态数据中确认是否检测到触发信息;若在所述多模态数据中检测到所述触发信息,则通过预设攻击函数控制所述目标多模态大模型输出错误结果。可以在不污染多模态大模型的训练数据的情况下模拟对多模态大模型的攻击。
技术关键词
多模态
数据
文本
后门
医疗健康技术
音频
可读存储介质
处理器
图像
计算机设备
存储器
模块
金融
度量
科技
样本
参数
系统为您推荐了相关专利信息
可信执行环境
共享存储空间
数据迁移
数据传输方法
处理器
轨道交通通信系统
智能运维方法
运维知识图谱
执行设备
实时数据
人体关节点
运动轨迹数据
识别系统
KNN算法
追踪算法
视觉惯性里程计
因子
模糊神经网络
机器人
多传感器数据融合