基于张量并行处理的数字孪生水利大语言模型推理方法

本发明提供了一种基于张量并行处理的数字孪生水利大语言模型推理方法。所述方法依次包括以下步骤：S1.梯度计算优化；S2.自注意力张量降维分块；S3.低维层归一化并行；S4.针对S3步骤中层归一化处理后的低维层进行层间总体弱扩展资源调度处理；S5.采用解码器中间张量结果转化为具体的预测值。本发明通过将大语言模型的参数和输入数据进行张量分割，并分配至多个计算节点并行处理，显著提升了大规模模型的推理效率。使用本发明能大幅提高了水利大语言模型的计算效率和实时性，通过并行化处理大规模模型的推理任务，各计算节点可以同时工作，显著降低了单个节点的计算负担，不仅能够处理更大规模的水利数据，还能保持高效和准确的风险预测能力。