训练任务检查点文件保存方法、装置、设备及介质

本发明提供一种训练任务检查点文件保存方法、装置、设备及介质，该方法包括：在大语言模型的同步训练保存过程中，对大语言模型当前次迭代的训练任务对应的检查点文件进行解构，得到多个待保存数据，并将待保存数据保存到共享内存中；在异步服务存储过程中，从共享内存中将当前次迭代的训练任务对应的多个待保存数据恢复成检查点文件并存储到共享存储设备中。本发明通过将检查点文件解构成多个待保存数据在共享内存中进行保存，并从共享内存中提取多个待保存数据合并成检查点文件存储在共享存储设备中，避免将检查点文件在训练过程中与训练框架耦合后存储在共享存储设备中，也避免完全了解训练框架机制才能对检查点文件进行保存，具备普适性。