用于低比特大语言模型的任务多层次推理方法、装置、设备以及介质

本发明公开了用于低比特大语言模型的任务多层次推理方法、装置、设备以及介质，包括：根据第一任务，确定任务推理轮次；对第一任务进行关联推理，得到若干第二任务；基于任务推理轮次对初始有向无环图进行调整，得到目标有向无环图；根据各个第二任务，确定该第二任务对应的轮次任务分解数量；基于该第二任务的轮次任务分解数量，对第二子任务进行筛选，得到该第二任务对应的第二子任务集合；将目标有向无环图中的第二任务替换为对应的第二子任务集合，并输入至预设低比特大语言模型中，得到第一任务对应的目标答复文本。本发明属于任务推理领域。本发明可以对颗粒度低的问题进行准确回答。