一种基于置信度引导的大模型推理链压缩方法与系统

本发明提出一种基于置信度引导的大模型推理链压缩方法与系统，属于大模型技术领域。其中，所述方法包括：构建用于提升大模型推理内部置信度的信心短语池；获取标准问题集，利用大模型对标准问题集中每个问题生成对应的完整推理链，以构建高效推理数据集；其中，推理链生成过程中通过利用信心短语池对推理链中的反思步骤进行信心注入以及对每次更新后的当前推理链计算置信度以优化推理过程；之后利用高效推理数据集对大模型进行训练，训练完毕的大模型用于自动生成经过有效压缩后的针对输入问题的推理链。本发明可在保证推理完整性与准确性的前提下，最大限度地压缩冗余步骤，有效实现对大模型输出的推理链的高效、稳定压缩。