摘要
本发明公开了多领域自适应的RAG优化方法及系统,属于深度学习技术领域,要解决的技术问题为:如何提升RAG系统在特定领域的适应性、回答质量以及模型的泛化和鲁棒性。包括:通过通用的大语言模型和检索器从目标领域的语料库中生成初始的问答及其相关上下文;基于链式思维的提示机制,引导大语言模型对检索到的上下文进行评估和分类,并生成详细的推理过程,并通过大语言模型对生成的回答进行评估,筛选出训练样本;将筛选出的训练样本划分为首选响应和非首选响应,并构建对比训练样本;基于筛选后的偏好数据、对大语言模型和检索器进行联合微调。
技术关键词
大语言模型
生成答案
样本
基础
文本编辑器
数据采集模块
排序损失
超参数
文本段落
机制
深度学习技术
三元组
数据存储
鲁棒性
信号
系统为您推荐了相关专利信息
缓存检测方法
缓存行数据
算法
存储系统测试
嵌入式系统开发
温度预测模型
故障预测方法
故障预测程序
故障预测装置
数据
图像块
行人属性识别方法
语义
空间位置关系
注意力机制