可控的多模态大模型后门攻击方法、装置、设备及介质

AITNT
正文
推荐专利
可控的多模态大模型后门攻击方法、装置、设备及介质
申请号:CN202510776381
申请日期:2025-06-09
公开号:CN120602158A
公开日期:2025-09-05
类型:发明专利
摘要
本发明涉及安全防护、金融科技及医疗健康技术领域,公开了一种可控的多模态大模型后门攻击方法、装置、设备及介质,包括:若检测到有多模态数据输入至目标多模态大模型,则获取所述多模态数据并解析所述多模态数据以确认所述多模态数据中是否存在扰动信息;若所述多模态数据中存在扰动信息,则在所述多模态数据中确认是否检测到触发信息;若在所述多模态数据中检测到所述触发信息,则通过预设攻击函数控制所述目标多模态大模型输出错误结果。可以在不污染多模态大模型的训练数据的情况下模拟对多模态大模型的攻击。
技术关键词
多模态 数据 文本 后门 医疗健康技术 音频 可读存储介质 处理器 图像 计算机设备 存储器 模块 金融 度量 科技 样本 参数
系统为您推荐了相关专利信息
1
用于机密计算的数据传输方法、计算系统及相关设备
可信执行环境 共享存储空间 数据迁移 数据传输方法 处理器
2
基于大模型的轨道交通通信系统智能运维方法和装置
轨道交通通信系统 智能运维方法 运维知识图谱 执行设备 实时数据
3
识别引体向上动作姿态的方法及其识别系统
人体关节点 运动轨迹数据 识别系统 KNN算法 追踪算法
4
一种量化微藻-重金属-有机质体系络合分配平衡的方法
有机质 微藻 光谱特征参数 朗伯比尔定律 液相
5
一种多传感器跨场景动态择优融合定位与建图方法
视觉惯性里程计 因子 模糊神经网络 机器人 多传感器数据融合
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号