基于神经崩溃理论的预训练模型类增量学习的识别方法

AITNT
正文
推荐专利
基于神经崩溃理论的预训练模型类增量学习的识别方法
申请号:CN202411665543
申请日期:2024-11-20
公开号:CN119760495B
公开日期:2025-10-24
类型:发明专利
摘要
本申请提供了一种基于神经崩溃理论的预训练模型类增量学习的识别方法,将NC的理论引入到预训练模型的特征适应中,提供了一种新颖的范式来利用预训练模型解决下游任务。并且本发明构造了一个ETF分类器,能够指导特征表示向最优结构进行适应。ETF分类器不仅满足神经崩溃中的NC2特性,还能通过预先固定最优结构来在训练过程中的不稳定性。引入了FCM模块,以将多种特征压缩到指定的类原型上,减少了类内变异性,并满足神经崩溃的NC1特性,通过监督学习过程,将特征表示与最优分类器结构对齐,从而获得更具判别性的特征表示。本申请对该预训练模型进行增量学习训练,再利用训练后的模型执行目标识别任务可以提高识别效果。
技术关键词
预训练模型 适配器 识别方法 分类器 样本 模块 理论 多层感知器 内存 原型 数据 标签 超参数 注意力 非线性 阶段 因子 框架 图像
系统为您推荐了相关专利信息
1
一种基于红外线的RFID PAD终端无感身份识别方法
身份识别方法 RFID读写器 标签 司机 红外识别装置
2
一种基于拉曼光谱技术的单细胞基因组测序方法
单细胞全基因组 测序分析方法 拉曼图谱 基因组测序方法 拉曼显微镜
3
基于语义建模与动态图神经网络的预测模型构建方法、装置
预测模型构建方法 语义 节点特征 构图结构 功能核磁共振
4
一种基于人工智能的小麦种子品质质量检测方法
种子 综合品质 样本 像素 品质特征
5
基于VMD-DBO的水质预测系统
水质预测系统 神经网络模型 特征选择 数据采集单元 频率
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号