一种用于无线边缘网络的大模型分布式微调联邦分割学习方法、系统及介质

AITNT
正文
推荐专利
一种用于无线边缘网络的大模型分布式微调联邦分割学习方法、系统及介质
申请号:CN202410787393
申请日期:2024-06-18
公开号:CN118780348A
公开日期:2024-10-15
类型:发明专利
摘要
本发明实施例提供了一种用于无线边缘网络的大模型分布式微调联邦分割学习方法、系统及介质,涉及计算机技术领域。方法包括:多个本地设备中的每个本地设备将本地训练数据输入本地的设备侧模型,得到中间输出结果并传输给服务器;服务器利用服务器侧模型对多个中间输出结果进行处理,得到设备侧模型梯度和服务器侧模型梯度;服务器使用服务器侧模型梯度更新服务器侧模型的参数,每个本地设备利用设备侧模型梯度更新本地的设备侧模型的参数;至少依据神经元重要性评分,对服务器侧模型和设备侧模型进行剪枝,基于剪枝后的服务器侧模型和设备侧模型继续协同训练,得到训练完毕的大模型,以实现无线网络环境中高效地进行大模型微调。
技术关键词
服务器 学习方法 多模态 无线网络环境 参数更新模块 投影器 文本 音频 编码器 数据传输模块 可读存储介质 学习系统 数据处理模块 视频 图像 标签 基座
系统为您推荐了相关专利信息
1
多模态档案智能分类与标签生成方法及系统
标签生成方法 融合语义 多层级标签 文本段落 标签结构
2
一种麻醉苏醒期智能语音交互系统及其方法
智能语音交互系统 实时语音 智能语音交互方法 模糊语义 动作特征
3
一种基于动态特征融合网络的多模态乳腺超声诊断系统
特征融合网络 乳腺超声图像 超声诊断系统 输出特征 动态
4
基于多模态信息的CIPN信息融合方法及系统
信息融合方法 精细运动技能 多模态信息 脱氧血红蛋白 多头注意力机制
5
建议生成模型的训练方法、模型的应用方法、装置和介质
数据分布 数据中心 坐标点 圆心 中心服务器
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号