基于参数空间转换的拆分学习大语言模型隐私保护方法

AITNT
正文
推荐专利
基于参数空间转换的拆分学习大语言模型隐私保护方法
申请号:CN202510359076
申请日期:2025-03-25
公开号:CN120296781A
公开日期:2025-07-11
类型:发明专利
摘要
本申请涉及一种基于参数空间转换的拆分学习大语言模型隐私保护方法,包括:拆分预训练的大语言模型,得到大语言模型的头部段模型、中间段模型和尾部段模型,并将头部段模型和尾部段模型部署于第一设备端,将中间段模型部署于第二设备端;基于投影层连接头部段模型和尾部段模型,对连接后的头部段模型和尾部段模型进行预热训练,以使得头部段模型和尾部段模型的参数转换到指定参数空间;冻结头部段模型中的参数,并基于第一设备端和第二设备端协同训练中间段模型和尾部段模型,得到微调后的大语言模型。采用本方法能够提高大语言模型拆分学习过程中的安全性。
技术关键词
大语言模型 设备端 隐私保护方法 数据 参数 隐私保护装置 隐私保护系统 计算机程序产品 处理器 计算机设备 存储器 模块
系统为您推荐了相关专利信息
1
一种油气井液面接箍波自动检测方法
油气井液面 自动检测方法 波形 数据 油套管
2
基于直流系统的智能故障定位系统及方法
故障定位系统 神经网络模型 故障检测 数字孪生模型 深度强化学习算法
3
一种基于启发式算法的多载量AMR调度方法
启发式算法 站台 加权有向图 贪心算法 坐标
4
语音识别模型训练方法、装置和计算机设备
生成音频文件 语音识别模型 语音识别算法 文本处理算法 语音生成模型
5
一种基于FPGA实现风控指标低延迟并行计算仲裁方法及系统
FPGA加速卡 PCIE接口 仲裁方法 FPGA芯片 低延迟
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号