摘要
本发明实施例提供了一种用于无线边缘网络的大模型分布式微调联邦分割学习方法、系统及介质,涉及计算机技术领域。方法包括:多个本地设备中的每个本地设备将本地训练数据输入本地的设备侧模型,得到中间输出结果并传输给服务器;服务器利用服务器侧模型对多个中间输出结果进行处理,得到设备侧模型梯度和服务器侧模型梯度;服务器使用服务器侧模型梯度更新服务器侧模型的参数,每个本地设备利用设备侧模型梯度更新本地的设备侧模型的参数;至少依据神经元重要性评分,对服务器侧模型和设备侧模型进行剪枝,基于剪枝后的服务器侧模型和设备侧模型继续协同训练,得到训练完毕的大模型,以实现无线网络环境中高效地进行大模型微调。
技术关键词
服务器
学习方法
多模态
无线网络环境
参数更新模块
投影器
文本
音频
编码器
数据传输模块
可读存储介质
学习系统
数据处理模块
视频
图像
标签
基座
系统为您推荐了相关专利信息
标签生成方法
融合语义
多层级标签
文本段落
标签结构
智能语音交互系统
实时语音
智能语音交互方法
模糊语义
动作特征
特征融合网络
乳腺超声图像
超声诊断系统
输出特征
动态
信息融合方法
精细运动技能
多模态信息
脱氧血红蛋白
多头注意力机制