面向多模态大模型的安全评测方法、装置、设备及存储介质

本申请的实施例提供了一种面向多模态大模型的安全评测方法、装置、设备及存储介质。所述方法包括模型所有者对多模态大模型进行量化处理和非线性函数近似处理，获得初始化多模态大模型，并将初始化多模态大模型的权重加密发送至不同的安全代理。客户端对构建的混合查询数据集进行层级向量化，获取推理查询数据集，并加密发送至不同的安全代理。不同的安全代理对推理查询数据集和初始化多模态大模型的权重分别进行安全协同推理，获取推理结果，并将推理结果发送至客户端。客户端对不同的安全代理发送来的推理结果进行解密重构，获取推理预测结果并进行验证，判断服务提供者是否安全可用。以此方式，可以有效避免恶意服务提供者的威胁。