摘要
本发明公开了一种基于累计注意力图与杰卡德相似系数的视觉变换器模型评估方法,该方法包括以下步骤:初始化设置;训练一个作为参考的基于完整注意力的视觉变换器模型;训练多个备选的基于分组注意力的视觉变换器模型;在少量校准数据前向传播过程中记录所述视觉变换器模型中关键层的注意力图;确定所述视觉变换器模型中关键层的累计注意力图;确定杰卡德相似系数;根据所述杰卡德相似系数选择最优的视觉变换器模型。本发明能够在最终效果差异微小的各个分组注意力模型中,提高差异性指标,更利于找到更优异和可解释性更强的模型。
技术关键词
变换器
模型评估方法
视觉
校准
注意力机制
标记
注意力模型
图像
训练集数据
数值
模型块
索引
策略
矩阵
指标
元素
阶段
定义
系统为您推荐了相关专利信息
地理定位方法
地面视角图像
深度学习模型
图谱
雷达
优化提取方法
深度学习模型
情绪特征
矩阵
特征提取网络
信息预测方法
订单
时间预测模型
风险评估模型
计算机装置
功率跟踪控制方法
光伏发电系统
工作点
电压控制器
历史运行数据
待测产品
检测管控方法
三维模型特征
溯源信息
三维建模技术