一种大规模预训练模型快速压缩方法及系统

本发明公开了一种大规模预训练模型快速压缩方法及系统。所述方法包括：获取训练后的大规模预训练模型的初始权重、预设稀疏度、预设精度、校准数据及标准数据；将剪枝后的大规模预训练模型按照骨架的级联结构拆分为多个串联的模块，并将每个模块拆分为多个基础单元；在大规模预训练模型的骨架中的第一个模块内，分别压缩每个所述基础单元；更新大规模预训练模型骨架中的第二个模块内权重；在所述骨架中的第二个模块内执行与相同的压缩操作，并在所述骨架中的第三个模块内执行相同的权重更新操作，直到在所述骨架中最后一个模块被执行完毕，获得压缩后的模型。本发明解决了在大规模预训练模型的压缩过程中消耗算力、存储及时间过高的问题。