一种模型压缩与高效传输方法及装置

AITNT
正文
推荐专利
一种模型压缩与高效传输方法及装置
申请号:CN202410783385
申请日期:2024-06-18
公开号:CN118643916A
公开日期:2024-09-13
类型:发明专利
摘要
本发明公开了一种模型压缩与高效传输方法及装置,包括:在各个节点中迭代训练本地模型,在每一次迭代过程中根据所述本地模型的性能调整剪枝策略,并根据所述本地模型的精确度和参数重要性调整剪枝强度;根据各个模型层的类型和功能将训练好的本地模型的模型层划分成第一子层和第二子层,对所述第一子层和第二子层中的参数进行分层量化处理;根据差分编码对本地模型的模型参数进行编码压缩,并将压缩后的数据传输至目标节点中,以使目标节点重构模型参数,完成模型传输。通过自适应剪枝可根据模型在训练过程中的表现动态地调整剪枝的程度,使得剪枝过程可以更加灵活,适应不同的数据集和任务需求,更好地保持甚至提升模型的性能。
技术关键词
高效传输方法 模型压缩 剪枝策略 重构模型 编码 节点 模型剪枝 高效传输装置 生成差分数据 分层 生成参数 强度 序列 模块 因子 浮点数 服务器 周期 动态地
系统为您推荐了相关专利信息
1
基于人机交互的数据处理方法、装置、设备及介质
数据处理方法 记忆 自然语言 编码向量 文本
2
基于无线信道知识地图构建的快速通信方法
快速通信方法 知识地图 编码特征 矩阵 高斯径向基函数
3
一种工程结构振动损伤感知预警的方法及系统
时间序列特征 周期 振动特征 数据 注意力模型
4
一种布料打号机
打号机 布料 压布轮组件 机架 压板组件
5
基于GLA-UNet模型结构的电负荷预测方法及系统
负荷预测方法 编码特征 多尺度局部特征 序列 变量
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号