摘要
本申请实施例公开了一种文本处理模型的训练方法、文本处理方法、问答处理方法及装置,涉及人工智能技术领域。方法包括:获取多个训练样本,训练样本至少包括文本样本;利用多个训练样本,将大语言模型作为教师模型进行蒸馏,得到作为学生模型的文本处理模型,文本处理模型的参数规模小于所述大语言模型;其中在蒸馏的过程中,利用大语言模型针对文本样本预测的POT(思维程序)信息和COT(思维链)信息指导文本处理模型的训练。本申请通过利用大语言模型预测的POT信息和COT信息共同指导文本处理模型的训练,提高了模型训练的准确率。
技术关键词
文本处理模型
大语言模型
文本处理方法
样本
蒸馏
教师
文本处理装置
训练装置
知识图谱构建
学生
存储程序指令
处理器
人工智能技术
计算机程序产品
云端服务器
规模
参数
可读存储介质
系统为您推荐了相关专利信息
电力需求预测方法
变量
移动通讯基站设备
多头注意力机制
加权特征
XGBoost模型
空间分布特征
识别方法
总初级生产力
净初级生产力