摘要
本发明提供了一种基于提示的联邦类增量学习方法及系统,涉及联邦类增量学习领域,针对流任务序列中的每个增量学习任务,进行联邦类增量学习的具体步骤为:全局服务器将最新的全局模型分发给选中的若干个客户端;客户端基于本地的私有训练样本和提示池,采用基于键值对的动态提示选择机制,在本地训练过程中优化提示向量,引导模型输出更加具有区分度的特征;客户端将优化后的提示池及模型参数上传至全局服务器;全局服务器对提示池及模型参数进行全局融合,融合后的提示池及模型参数构成新的全局模型;本发明有效解决联邦类增量问题中由于新类别数据的连续到达以及新客户端的动态加入导致的数据异构性问题,解决对旧知识的灾难性遗忘问题。
技术关键词
增量学习方法
客户端
非暂态计算机可读存储介质
服务器
查询特征
键值
参数
输入模块
文本编码器
图像块
电子设备
机制
处理器
多模态
图像嵌入
序列
动态
学习系统
系统为您推荐了相关专利信息
基板管理控制器
数据管理方法
存储模块
进程
机器学习模型
融合特征
样本
注意力机制
训练深度学习模型
资源推荐方法
图像处理模型
注意力
特征提取网络
编码特征
检测头
广告方法
生成神经网络模型
广告系统
显示装置
文本
大语言模型
知识检索方法
加密数据
语句
知识检索系统