摘要
本申请实施例提供了一种检索增强生成的上下文优化方法、问答处理方法及设备,该方案在对初始上下文文本进行压缩时,并非简单的采用保留前N个token的方式,而是对语句进行了相关度排序,保留相关度最高的k个主要语句的同时,对于相关度较低的次要语句并非直接丢弃,而是对其压缩保留其重要信息后再于主要语句进行拼接来获得优化后的目标上下文文本,从而尽可能多的保留信息,避免关键信息丢失,有效提升目标上下文文本输入LLM后回答的准确性。
技术关键词
强化学习算法
语句
计算机程序指令
文本
存储计算机程序
大语言模型
策略
处理器
比率
动态
存储器
介质
系统为您推荐了相关专利信息
智能文件
集中管理方法
信息系统
集中管理装置
切片
广告评估方法
画像
自然语言模型
实时数据
生成广告
中文文本分类方法
融合标签
拼音
标签编码器
特征提取网络
车速估计方法
比例积分控制器
车辆动力学模型
数值
速度