违规内容识别方法、装置、设备、存储介质及程序产品

本申请实施例提供一种违规内容识别方法、装置、设备、存储介质及程序产品，涉及人工智能领域。该方法包括：利用违规识别模型，对待识别的对话文本进行识别，筛选得到疑似违规的对话文本；通过文本大模型，判断疑似违规的对话文本是否包含预设违规内容；在疑似违规的对话文本包含预设违规内容时，获取疑似违规的对话文本对应的视频，通过多模态大模型对视频进行预设违规内容识别，多模态大模型用于对视频进行不同方式的违规内容识别；在视频包含预设违规内容时，确定待识别的对话文本存在违规。本申请的方法，降低了违规内容的漏报和误报，提高了违规内容识别的准确性，大幅度降低了工作人员的甄别成本。