摘要
本发明公开了一种基于对抗学习的深度学习模型域适应方法,包括S1、引入了一个域判别器D;S2、使用Vision Transfomer作为共享的特征提取器F;S3、搭建具有域判别器的Transformer网络模型,Transformer网络模型由特征提取器F,分类器C和域判别器D组成,特征提取器F与域判别器D之间形成对抗性训练的关系,并进行Transformer网络模型的优化;S4、设计渐进式平滑训练策略,对Transformer网络模型训练过程中的域混淆损失函数项梯度进行逐渐放宽的约束。本发明旨在填补针对Vision Transformer域适应研究的空白,针对Vision Transformer结构特点,基于对抗训练理论制定了Vision Transformer域适应方法。同时,基于渐进迭代的平滑训练策略与基于栅格搜索的域判别器结构搜寻。
技术关键词
深度学习模型
分类器
特征提取器
网络模型训练
Softmax函数
多层感知机
对抗性
图片
输出特征
策略
栅格
标签
关系
参数
数据
理论
线性
物体
代表
系统为您推荐了相关专利信息
卷积神经网络模型
样本
深度学习模型
建筑
可读存储介质
动态时间规整算法
多通道同步采集
深度学习算法
光伏组件
等效电路参数
高分遥感影像
特征值
遥感图像数据
高分辨率遥感影像
特征提取器
语音识别模型
低资源语言
多语言语音识别
语音识别方法
识别语音信号
污水处理设备
监测方法
特征提取模块
多尺度特征提取
融合特征