一种基于自适应对比学习的大语言模型知识纠偏方法

AITNT
正文
推荐专利
一种基于自适应对比学习的大语言模型知识纠偏方法
申请号:CN202510020048
申请日期:2025-01-07
公开号:CN119808952A
公开日期:2025-04-11
类型:发明专利
摘要
本发明提出了一种基于自适应对比学习的大语言模型知识纠偏方法,旨在提高模型在自然语言处理任务中的准确性和可信度。该方法包括以下步骤:S1、将模型知识划分为四个象限,以识别模型对知识的掌握情况。S2、通过设定上限阈值(IK)和下限阈值(IDK),探测模型的知识边界,确定模型对每个问题的信心度量。S3、根据探测结果,收集模型已知和未知的知识数据,构建对比学习数据,包括正样本和负样本。S4、采用自适应对比学习策略,通过拉近正样本和推远负样本,增强模型对知识的掌握能力,同时保持模型的生成能力。实验证明,该方法能显著提升模型回复的真实性指标性能,对于缓解大语言模型的幻觉问题具有重要意义。
技术关键词
纠偏方法 样本 大语言模型 度量 答案 超参数 数据 计算机程序产品 自然语言 可读存储介质 处理器 锚点 指令 策略 指标 定义
系统为您推荐了相关专利信息
1
一种云计算环境下的通讯数据泄露防护方法
通讯 风险预测模型 数据泄露防护方法 机制 云计算环境
2
虚拟电厂调节能力的预测模型训练方法和预测方法
预测模型训练方法 历史气象数据 学习算法 梯度下降法 概率密度函数
3
一种基于小样本学习的数据增强和可学习参数的阈值损失优化方法
深度学习神经网络模型 背景图 图像变换方法 离线 参数
4
一种基于代理模型的数据中心机房气流组织优化方法
送风参数 数据中心机房 仿真工具 样本 指标
5
融合改进度量与传播影响力的网络关键节点识别方法
网络关键节点 度量 线性阈值模型 计算机程序代码 关键节点识别方法
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号