基于轻量化空间缩减注意力的视觉Transformer分类方法

本发明公开了基于轻量化空间缩减注意力的视觉Transformer分类方法，该方法将多头注意力划分为两组进行不同程度的下采样以关注不同大小的对象，并提出了一种软分割下采样模块代替空间缩减注意力中的卷积层，接着使用深度可分离卷积代替软分割下采样模块中的普通卷积，进一步减少参数量，最后对具有不同下采样率分支进行通道重要性评估。使用轻量化空间缩减注意力的LightPVT降低约30％的参数量，且模型的性能得到了提升。