摘要
本发明属于自然语言处理技术领域。提供了一种基于零资源框架的细粒度大模型幻觉处理方法及系统,通过大语言模型进行预处理后的文本的多维异常检测,得到多维异常检测结果;根据多维异常检测结果进行异常修正优先级排序;根据句法分析结果以及生成的句法依赖树,动态调整上下文窗口范围;结合调整后的上下文窗口范围,根据异常修正优先级排序结果,进行高风险词汇和句子的优先修正;评估修正后的内容,符合终止条件时得到修正后的最终文本。本发明实现了对检测内容的过度置信、细微语义和语法偏差幻觉检测,提高了大语言模型的幻觉检测处理能力,特别是对于细粒度幻觉问题的检测处理能力。
技术关键词
检测词汇
大语言模型
多头注意力机制
生成候选词
文本
语义关联度
高风险
动态
一致性检测
标记
矩阵
框架
资源
增量更新
强度
自然语言
重构
分阶段
系统为您推荐了相关专利信息
燃气轮机运行状态
燃气轮机气路故障
故障特征学习
SOM算法
多头注意力机制
电商
葡萄
Attention机制
编码向量
双通道注意力
人工智能客服系统
多模态情绪
自然语言
意图类别
文本