基于后验预测采样的预训练语言模型强化推理训练方法

本申请涉及一种基于后验预测采样的预训练语言模型强化推理训练方法，其中，方法包括：对每个待训练的推理任务或问题分别维护对应难度估计的后验分布；利用满足预设小型条件的代理模型或基础分布初始化后验分布；对候选数据集进行代理评估；对每个样本进行数据筛选，以确定满足预设学习价值条件的至少一个样本；将至少一个样本进行真实评估；利用贝叶斯更新规则更新对应样本的后验分布参数，利用更新参数调整训练过程中的代理评估结果，并利用真实评估结果和强化学习语言训练预训练语言模型。本申请引入后验采样的思想，为每个推理任务或问题动态维护一个难度估计分布，实现更高效、更经济的训练，并提升大模型在复杂推理任务上的表现。