摘要
本发明公开了一种针对大语言模型附和型幻觉的处理方法,本方法包括以下步骤:对原始输入文本进行中性化转换,生成语义完整且中立的中性输入文本;基于预设大语言模型,分别计算原始输入文本和中性输入文本的未归一化得分;通过协同对比解码机制,调整大语言模型生成回答时的最终概率分布,执行自适应约束,抑制所述大语言模型对原始输入文本的倾向性依赖;逐词筛选生成标记中的高概率候选标记,生成最终输出文本。本发明与传统技术相比,直接作用于推理阶段,无需调整大语言模型的参数,极大降低计算成本,可适配不同类型的大语言模型,适用性更广,通过对比解码,有效减少模型对输入诱导的依赖,提高生成结果的客观性。
技术关键词
大语言模型
文本
解码机制
标记
动态解码
置信度阈值
处理器
计算机设备
语义
可读存储介质
存储器
序列
阶段
指令
参数
系统为您推荐了相关专利信息
文本
大语言模型
答案输出方法
关键词
机器可读指令
供热系统
长输管网
大语言模型
数字孪生模型
图谱
工业数据可视化
工业系统
标识
工业设备
可缩放矢量图形
训练样本数据
大语言模型
数据处理方法
指令
数据处理装置
序列聚类方法
融合语义
k均值聚类算法
重构误差
语义特征提取