提示注入攻击多层次防御方法、装置、计算机设备及介质

本发明涉及网络安全技术领域，公开了提示注入攻击多层次防御方法、装置、计算机设备及介质，该方法包括：获取用户的多模态输入；多模态输入包括文本输入和图像输入；将文本输入和图像输入分别输送至预设大语言模型，分别识别出文本意图和图像意图；判断文本意图和图像意图是否一致，得到用户意图判定结果，并根据用户意图判定结果进行基于角色的权限访问控制机制是否允许用户执行指定操作或提示用户确认意图操作；基于用户意图生成输出内容，并对输出内容进行恶意内容检测。本发明围绕文本与图像的提示注入进行多模态融合处理。在输入处理、功能调用、输出后处理多个阶段进行意图识别、恶意检测与风险规避，确保大语言模型的输出符合安全标准。