摘要
本发明公开了一种基于对比异构知识蒸馏的遥感旋转目标检测方法及系统,构建对比异构知识蒸馏网络检测框架;将教师网络的Token序列转换为二维特征图,匹配学生网络的CNN的归纳偏置,得到变换的教师特征;将学生网络的二维特征图转换为Token序列,输入教师网络进行全局交互,得到变换的学生特征;通过共享教师网络权重融合变换的教师特征与学生特征,构建助理变换模型;通过空间注意力与通道注意力协同增强特征表达,并结合余弦相似度匹配和动态阈值划分策略,划分正负样本集合;联合教师网络、学生网络及助理变换模型,结合正负样本集合构建对比学习知识蒸馏,通过特征蒸馏损失与逻辑蒸馏损失实现知识迁移,输出检测结果图像。
技术关键词
教师
学生
蒸馏
异构特征
注意力
序列
样本
模块
网络特征
策略
多模型协同
动态
前馈神经网络
卷积架构
逻辑
框架
预测类别
卷积特征
系统为您推荐了相关专利信息
文本提取方法
文本识别模型
解码模型
编码规则
多语言
声源定位方法
音频特征
注意力机制
卷积神经网络提取
模态特征