生成式人工智能AIGC文本的安全检测方法及相关设备

AITNT
正文
推荐专利
生成式人工智能AIGC文本的安全检测方法及相关设备
申请号:CN202411117960
申请日期:2024-08-14
公开号:CN119150312B
公开日期:2025-11-18
类型:发明专利
摘要
本申请公开一种生成式人工智能AIGC文本的安全检测方法及相关设备,用于提高安全检测的准确率。包括:根据利用预设的关键词数据集对待检测AIGC文本进行检测得到的第一分数和利用预设的文本片段数据集对待检测AIGC文本进行文本片段匹配得到的第二分数,确定是否能够得到安全检测分数;若否,则基于第一分数和第二分数,确定安全检测分数;若是,则根据将待检测AIGC文本输入至预先训练好的异常文本检测模型中得到的第三分数和待检测AIGC文本输入至预先训练好的情感分类检测模型中得到的情感类别和第四分数,确定待检测AIGC文本的安全检测分数;将安全检测分数与预设阈值比较,得到安全检测结果。
技术关键词
情感类别 文本检测模型 关键词 数值 计算机程序代码 数据 计算机程序产品 文本生成模型 存储程序指令 可读存储介质 词语 匹配模块 存储器 电子设备 正面
系统为您推荐了相关专利信息
1
一种语音合成方法、装置、设备及介质
坐标 语音 计算机可读指令 球面 文本
2
基于通信技术的支付精确定位匹配的方法及系统
移动支付设备 序列 元素 符号 因子
3
一种自动驾驶虚拟仿真场景素材生成方法、装置及计算机程序产品
人工智能模型 关键词 深度神经网络训练 大语言模型 生成方法
4
患病概率的预测方法、装置及电子设备
诊疗数据 关键词 疾病 样本 机器可读存储介质
5
复杂海域系统模型中性腺快速成熟花鲈数值模拟方法及系统
花鲈 数值模拟方法 神经网络预测模型 促卵泡激素受体 促性腺激素释放激素
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号