模型获得方法、模型推理方法和电子设备

本公开提供了一种模型获得方法、模型推理方法和电子设备。该模型获得方法包括：对初始模型的初始权重参数进行量化处理，得到第一权重参数。根据第一权重参数进行模型微调，得到第一低秩权重参数。将第一低秩权重参数与第一权重参数进行合并处理，得到第二权重参数。对第二权重参数进行量化处理，得到第三权重参数。对第三权重参数与第一权重参数间的参数差值进行分解处理，得到校准后的低秩权重参数。基于校准后的低秩权重参数与初始权重参数，得到目标模型。