基于隐私保护的大模型微调的方法及装置

AITNT
正文
推荐专利
基于隐私保护的大模型微调的方法及装置
申请号:CN202411028409
申请日期:2024-07-29
公开号:CN119180046B
公开日期:2025-11-25
类型:发明专利
摘要
本说明书提供一种基于隐私保护的大模型微调的方法及装置,所述方法包括:第一平台采用差分隐私的方式,利用本地持有的、包括第一领域中隐私数据的目标数据集,训练第一小模型,得到适用于所述第一领域的第二小模型,并将所述第二小模型发送给第二平台;所述第二平台以所述第二小模型为老师模型,通过蒸馏学习的方式,对本地持有的大模型进行微调,以得到适用于所述第一领域的大模型。
技术关键词
差分隐私 平台 模型压缩 数据 老师 蒸馏 模型剪枝 参数 数值 计算机 模块 可读存储介质 存储器 处理器
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号