基于多模态风险评测数据集的模型内容安全评测方法

基于多模态风险评测数据集的模型内容安全评测方法，涉及人工智能技术领域，包括：构建包含文本、图像的安全评测基准数据集；根据测试参数选择的测试类别，根据测试类别确定相应的图像测试数据，根据所述图像测试数据动态关联对应的文本测试数据，生成组合测试数据；将所述组合测试数据输入待测的生成式大模型，输出包括图片和/或视频的生成内容；将所述生成内容输入AI检测系统自动化识别风险，辅以人工确认，得到内容风险评估结果。本申请实现了对多模态生成式模型更全面、动态、精准的安全评估。