大模型的微调方法及装置、电子设备、介质、产品

本公开提供了一种大模型的微调方法及装置、电子设备、介质、产品，该方法包括：获取所述大模型中待调整的模型参数对应的第一增量矩阵；根据所述第一增量矩阵的损失值，对所述第一增量矩阵进行更新，根据更新后的第一增量矩阵，确定所述待调整的模型参数的矩阵秩预算；根据所述待调整的模型参数的矩阵秩预算，对所述更新后的第一增量矩阵进行降秩处理，得到第二增量矩阵，通过所述第二增量矩阵对所述待调整的模型参数进行微调；其中，所述待调整的模型参数的矩阵秩预算用于确定所述待调整的模型参数对应的第二增量矩阵的秩。该方式能够针对不同的模型参数灵活确定增量矩阵的秩，从而兼顾大模型的整体性能和准确性。