摘要
本发明公开了一种基于参数共享的Vision Transformer简化方法,步骤一:精简视觉骨干模型;步骤二:预训练图像分类模型;步骤三:训练目标检测和语义分割模型;本发明设计了一种新的参数共享MLP结构来减少ViT模型的参数,通过对线性层的镜像结构进行参数共享来减少MLP块的一半参数,将其与提出的轻量级注意力块相结合,构建一个高效的PSM‑Former模型。
技术关键词
语义分割模型
简化方法
注意力
训练图像分类模型
参数
模块
图像分类模型训练
视觉
实例分割
分辨率
检测器
阶段
通道
优化器
线性
数据
因子
系统为您推荐了相关专利信息
模型训练方法
预训练模型
生成定位模型
数据
定位框
参数优化模型
智能优化方法
全局平均池化
数字孪生系统
工业生产
中空玻璃单元
退化分析方法
幕墙中空玻璃
概率密度函数
参数
数据清洗方法
识别时序数据
拓扑结构信息
电网运行数据
密度聚类方法