文本内容审核方法、装置、设备、存储介质及程序产品

AITNT
正文
推荐专利
文本内容审核方法、装置、设备、存储介质及程序产品
申请号:CN202411693882
申请日期:2024-11-25
公开号:CN119474273A
公开日期:2025-02-18
类型:发明专利
摘要
本申请涉及一种文本内容审核方法、装置、设备、存储介质及程序产品。所述方法包括:获取待检测文本;将待检测文本输入风险类型识别模型,并获取风险类型识别模型输出的待检测文本的各个风险类型的第一置信度;根据待检测文本的各个风险类型的第一置信度,调用大语言检测模型确定待检测文本的风险判别结果和待检测文本的各个风险类型的第二置信度,大语言检测模型是通过多种风险类型的正样本文本数据和负样本文本数据对通用大语言模型进行参数调整后生成的;根据风险判别结果和待检测文本的各个风险类型的第二置信度,确定待检测文本的内容审核结果。采用本方法能够提高风险内容的识别准确率。
技术关键词
风险 文本内容审核方法 语句 大语言模型 白名单 分词 样本 关键词 计算机程序产品 处理器 数据 计算机设备 可读存储介质 存储器 参数 模块
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号