摘要
本公开的实施例涉及一种用于微调模型的方法、装置、设备和存储介质。在此提出的方法包括:由代理单元,从用户接收模型微调任务;由代理单元,确定用于执行模型微调任务的目标工作单元,并向目标工作单元提交模型微调任务,其中目标工作单元关联于多个图形处理单元;由目标工作单元,基于从分布式存储单元获取的训练数据来执行模型微调任务;以及由目标工作单元,将更新后的模型参数存储至本地存储单元,以触发代理单元将模型参数从本地存储单元上传至分布式存储单元。以此方式,本公开的实施例能够提高模型微调的效率。
技术关键词
分布式存储单元
图形处理单元
控制单元
计算机可执行指令
图像处理单元
逻辑
阶段
微调系统
预训练模型
计算机程序产品
电子设备
数据
超参数
可读存储介质
存储器
处理器