一种基于大模型的继续预训练的问答方法、装置、设备及介质

本申请涉及大模型训练领域，特别涉及一种基于大模型的继续预训练的问答方法、装置、设备及介质，方法包括：获取多个基于不同预设长度阈值的切片数据的训练数据集；利用多个超参数对预训练大模型进行继续训练，得到多个初始问答模型，能够通过不同长度的训练数据以及不同的超参数，使得模型在不同超参数下无监督地学习不同长度的文本；通过测试集测试多个初始问答模型，比较不同的初始问答模型的学习情况，以便于从多个初始问答模型确定出最优的问答模型，能够精准的确定符合该场景下的最优的文本长度以及超参数的模型，使得最终确定的问答模型的精准度以及可靠性优异，且，在继续训练过程中不需要依赖人工标记训练数据，降低了人工成本和工作量。