模型蒸馏方法、答复信息生成方法及装置

本申请公开了模型蒸馏方法、答复信息生成方法及装置，涉及计算机技术领域，尤其涉及自然语言处理、深度学习、大模型等人工智能领域。具体实现方案为：获取样本问题信息及样本问题信息的样本答复信息；其中，样本答复信息包括样本推理过程信息及样本答案信息；根据样本问题信息，采用初始的小语言模型，获取样本问题信息对应的预测推理过程；其中，初始的小语言模型的模型规模小于大语言模型的模型规模；根据样本问题信息，采用初始的小语言模型，获取样本问题信息的预测答案信息；根据样本推理过程信息、样本答案信息、预测推理过程信息及预测答案信息，对初始的小语言模型进行训练，以获取经训练的小语言模型。