大模型解码约束方法、设备及介质

本申请公开了大模型解码约束方法、设备及介质，涉及模型处理领域，方法包括：基于FST模型、DFA模型，形成联合约束模型；基于大语言模型进行解码，生成对应词汇表的概率得分；基于联合约束模型对词汇表中的最小文本单元进行排除，输出的指定最小文本单元；基于待判定因子，对指定最小文本单元的结构进行动态调整，更新大语言模型的输出。不强制固定输出格式，允许模型自由生成中间推理步骤，与传统结构化生成相比，避免与自然生成逻辑冲突，保留生成灵活性。