一种生成式人工智能的安全评估方法以及装置

本发明公开了生成式人工智能的安全评估方法及装置，包括：构建训练样本数据集，其包括多个不同领域训练样本子集；通过预设预测模型对不同领域训练样本子集进行预测处理，以分别得到不同领域训练样本子集对应的拒答率、语句通顺度、描述准确度以及内容安全度；基于安全评估需求，对拒答率、语句通顺度、描述准确度以及内容安全度分配对应的权重，以计算得到拒答率评分、语句通顺度评分、描述准确度评分以及内容安全度评分；基于拒答率评分、语句通顺度评分、描述准确度评分以及内容安全度评分，确定安全评估结果。可实现多维度安全评估分析，且模型能够通过持续学习和自我优化，确保评估结果的时效性和有效性，减少人工参与的时间和成本。