一种大模型数据分布式管理方法、装置、设备及存储介质

本申请公开了一种大模型数据分布式管理方法、装置、设备及存储介质，涉及数据处理技术领域，包括：对大模型训练数据进行分割得到若干数据块，基于长短期记忆网络模型和数据块的历史访问频率确定预测访问频率；利用预测访问频率将数据块对应的大模型训练数据缓存至对应的数据缓存层；利用GPU节点的静态属性和动态指标构建资源画像，基于预测访问频率和数据块在数据缓存层对应的存储位置并利用预设混部策略和资源画像，将大模型训练任务分配至目标GPU节点；当监测到目标GPU节点上的大模型训练任务执行时，利用分布式快照算法对大模型训练任务进行周期性快照，将得到的完整数据状态保存至分布式存储中心。以降低资源闲置率。