摘要
本发明公开了一种融合对比学习与特征掩码建模的影像自监督学习方法和系统。利用成本低、无需标注的原始影像作为训练数据,构建了一个双分支的自监督学习网络,一是基于SimCLR架构的对比学习分支,二是基于掩码特征模型的掩码自编码器分支,整个网络包括影像预处理模块、影像特征提取模块、共享权值编码器,通过这两条分支并结合为这两条分支专门设计的损失函数进行自监督训练,最终获得一个能够充分提取影像特征的预训练模型。本发明通过结合对比学习和特征掩码建模的优势,有效从未标注影像数据中提取信息,增强影像理解。主要优点为:强鲁棒性,特别适合遥感和医疗领域的有限数据集,提高模型精度,减少数据需求及标注成本。
技术关键词
监督学习方法
影像
卷积特征提取
分支
编码器
语义分割网络
上采样
解码器
多头注意力机制
序列
输出特征
解码网络
样本
全局平均池化
数据
强鲁棒性
代表