一种基于参数共享的Vision Transformer简化方法

AITNT
正文
推荐专利
一种基于参数共享的Vision Transformer简化方法
申请号:CN202411844156
申请日期:2024-12-15
公开号:CN119625500B
公开日期:2025-11-21
类型:发明专利
摘要
本发明公开了一种基于参数共享的Vision Transformer简化方法,步骤一:精简视觉骨干模型;步骤二:预训练图像分类模型;步骤三:训练目标检测和语义分割模型;本发明设计了一种新的参数共享MLP结构来减少ViT模型的参数,通过对线性层的镜像结构进行参数共享来减少MLP块的一半参数,将其与提出的轻量级注意力块相结合,构建一个高效的PSM‑Former模型。
技术关键词
语义分割模型 简化方法 注意力 训练图像分类模型 参数 模块 图像分类模型训练 视觉 实例分割 分辨率 检测器 阶段 通道 优化器 线性 数据 因子
系统为您推荐了相关专利信息
1
定位模型训练方法、系统、设备及可读存储介质
模型训练方法 预训练模型 生成定位模型 数据 定位框
2
一种基于LabVIEW的液压泵自动停机判断与报警系统
压力 数据采集模块 报警系统 跌落系统 判断算法
3
一种硅材料提纯工艺智能优化方法
参数优化模型 智能优化方法 全局平均池化 数字孪生系统 工业生产
4
一种幕墙中空玻璃单元的氩气泄露检测和退化分析方法
中空玻璃单元 退化分析方法 幕墙中空玻璃 概率密度函数 参数
5
基于多维度时空分析的网损数据清洗方法、系统、设备及介质
数据清洗方法 识别时序数据 拓扑结构信息 电网运行数据 密度聚类方法
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号