大模型的訓練方法、裝置、設備及儲存媒體

本申請提供一種大模型的訓練方法、裝置、設備及儲存媒體，其中，大模型包括頭部適配器、模型主體和尾部適配器；所述頭部適配器包括第一雲端部分和第一本地部分，所述尾部適配器包括第二雲端部分和第二本地部分；在訓練所述大模型的過程中所述第一雲端部分、所述模型主體和所述第二雲端部分部署於雲端，所述第一本地部分和所述第二本地部分部署於本地客戶端，該方法僅將頭尾兩個適配器分散到雲端和客戶端，利用加密的客戶端資料做適配器部分的模型訓練，模型大部分結構依然位於雲端，利用雲端計算力進行訓練與推理。