一种模型风险评估方法、装置、电子设备及存储介质

本申请提供了一种模型风险评估方法、装置、电子设备及存储介质，方法包括：获取模型输出的生成信息，从中提取第一生成文本、生成语音、生成影像；判断第一生成文本是否包含与特定标识符对应的隐私信息，得到个人信息风险值；判断生成语音、生成影像中是否包含特定生物特征，得到生物特征信息风险值；根据第一生成文本中各文本片段所属类别确定正向引导风险值；获取模型输出的第二生成文本，根据第二生成文本中安全文本片段所占比例，确定拒答响应风险值；根据个人信息风险值、生物特征信息风险值、正向引导风险值和拒答响应风险值，确定模型风险值。本申请从四个方面对模型的安全性进行定量评估，能够全面、精确地衡量模型生成内容的安全性。