基于大模型的风险内容检测方法、装置、设备和介质

本公开提供了一种基于大模型的风险内容检测方法、装置、设备和介质，涉及人工智能技术领域，尤其涉及自然语言处理和深度学习等技术领域，能够用于生成式检索、文档智能编辑、智能助手、虚拟助手、智能电商等应用场景。该方法包括：利用第一大模型在待检测文本中识别至少一个风险元素；在预设知识库所包括的示例风险内容中检索与至少一个风险元素对应的相关风险内容；以及利用第二大模型基于相关风险内容和待检测文本进行风险内容检测。