摘要
本发明公开了一种基于词性评判的大语言模型事实增强解码方法。该方法包括以下主要步骤:对大型语言模型各层中的文本进行幻觉部分的词性分布分析,确定干预目标词性;基于干预目标词性,确定事实词汇与幻觉词汇在同一个句子中的输出概率趋势;构建针对不同干预目标词性的评判器,并基于事实词汇与幻觉词汇在同一个句子中的输出概率趋势对评判器进行训练;在大型语言模型生成文本的解码过程中,利用训练好的评判器实时监测模型输出,检测潜在的幻觉信号,根据检测到的幻觉信号,动态调整大型语言模型的事实文本生成过程中的选项。本发明与传统方法相比能够显著提高生成内容的事实准确性,且无需借助外部资源或模型。
技术关键词
解码方法
大语言模型
文本
标记
信号
动态
超参数
语义
网格
分层
代表
资源
精度
数据
系统为您推荐了相关专利信息
语音识别模型
样本
正交镜像滤波器组
变量
对抗性
光谱采集系统
光学传感器
FIFO模块
驱动控制模块
接口模块
多维力传感器
解耦方法
解耦结构
加载平台
输入模块