一种基于条件级联蒸馏的知识迁移方法

AITNT
正文
推荐专利
一种基于条件级联蒸馏的知识迁移方法
申请号:CN202410892770
申请日期:2024-07-04
公开号:CN118761467B
公开日期:2025-02-18
类型:发明专利
摘要
本发明公开一种基于条件级联蒸馏的知识迁移方法,云端服务器构建模型并下发至若干个所述端设备;每个端设备采集训练数据并输入至下发的模型中迭代训练,获得训练好的端设备模型,端设备将训练好的端设备模型更新上传至云端服务器;通过级联蒸馏使得各个端设备模型吸收云端模型的知识;云端服务器接收若干个端设备模型更新并通过加权聚合算法进行聚合和通信优化,将优化后的全局模型并下发至端设备;端设备采集待检测数据并输入至优化后的全局模型中,获得检测结果。本发明不仅提高了模型泛化能力,还显著减少了模型更新过程中的通信成本,实现了在保护端设备数据隐私的前提下,协同多方训练生成性能更优的全局模型。
技术关键词
模型更新 知识迁移方法 云端服务器 级联 蒸馏 端云协同系统 校准 代表 数据压缩技术 正则化参数 训练特征 解码器 控制通信 编码器 频率
系统为您推荐了相关专利信息
1
多模态模型的高效知识蒸馏方法与微模型生成方法及系统
知识蒸馏方法 模型生成方法 区域建议网络 原始图像数据 知识蒸馏优化
2
一种基于多视角多目标快速融合的方法
多视角 生成训练数据 轻量化方法 运动特征 关键点
3
提高板带轧制中变形抗力计算精度的方法、装置、设备及介质
误差函数 梯度下降算法 计算方法 参数 训练集
4
RFID抗干扰定位方法、系统及电子设备
抗干扰定位方法 干扰信号识别 RFID读写器 设备特征 信道状态信息
5
基于双重聚类方式的联邦学习方法、设备、介质及产品
联邦学习方法 客户端 参数 图像识别模型 模型更新
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号