一种基于分组细粒度结构化剪枝的视觉Transformer加速器

AITNT
正文
推荐专利
一种基于分组细粒度结构化剪枝的视觉Transformer加速器
申请号:CN202510992709
申请日期:2025-07-18
公开号:CN121009925A
公开日期:2025-11-25
类型:发明专利
摘要
本发明公开一种基于分组细粒度结构化剪枝的视觉Transformer加速器,属于计算、推算或计数的技术领域。本发明通过基于增量的M:8分组细粒度结构化剪枝和整型量化,轻量化模型的硬件资源需求;提供了一种针对轻量化算法的专用硬件计算电路,该硬件计算电路包括存储模块、自注意力机制矩阵计算模块以及控制模块,涉及专用计算单元与稀疏解码单元设计、基于改进的输入固定数据流的及脉动计算阵列设计等。本发明提出的方法应用较为简单,针对视觉Transformer模型具有较好的加速效果,并且硬件加速电路设计具有较高的计算能效。
技术关键词
数据选择器 加速器 视觉 注意力机制 编码 存储模块 输入端 系数可调 剪枝方法 参数 输出端 加法器 阵列 处理单元 周期 非线性 模式 乘法器 模型剪枝
系统为您推荐了相关专利信息
1
一种电力系统爬坡需求预测方法、系统、设备及介质
爬坡需求 需求预测方法 判断算法 电力系统 历史气象数据
2
一种基于多任务预训练微调范式的交通流数据插补与预测方法
交通流预测 训练混合模型 多任务 数据 模式
3
用于无线通信的节点中的方法和装置
传输块大小 控制信令 索引 列表 比特数
4
基于多模态融合深度学习的自然环境鸟类监测方法及计算机装置
视觉特征 注意力 多模态 监测方法 矩阵
5
一种无线双目视觉结构三维位移测量方法及系统
三维位移测量方法 双目视觉结构 像素 坐标系 授时模块
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号