基于外积的计算稀疏卷积和稀疏注意力的统一硬件架构

AITNT
正文
推荐专利
基于外积的计算稀疏卷积和稀疏注意力的统一硬件架构
申请号:CN202411439909
申请日期:2024-10-15
公开号:CN119416843A
公开日期:2025-02-11
类型:发明专利
摘要
本发明涉及基于外积的计算稀疏卷积和稀疏注意力的统一硬件架构,通过将稀疏卷积和稀疏注意力层中的计算分解成基本的外积计算,并基于基本的外积计算设计了统一硬件结构实现稀疏卷积和稀疏注意力层,具有很高的硬件复用率。还设计了分层蝶形路由网络用于将外积计算中产生的乘法结果路由到累加缓存区,能够达到与crossbar相近的带宽但分层蝶形路由网络比crossbar消耗更少的面积,同时具有更好的可扩展性。还设计了一种紧凑的对齐编码算法对稀疏数据进行编码,从而使得在将数据加载到乘法器阵列时,乘法器的每个周期都能接近满载,从而提高了稀疏情况下乘法器的利用率。
技术关键词
蝶形网络 注意力 乘法器 稀疏矩阵乘法 坐标 阵列 编码算法 分层 模块 输出端 输入端 周期 条目 条带 元素 数据
系统为您推荐了相关专利信息
1
基于深度强化学习与异构图神经网络的动态调度优化方法
动态调度优化方法 柔性作业车间调度 嵌入特征 深度强化学习 异构
2
一种基于柔性压力传感器的无声语音识别系统
柔性压力传感器 语音识别系统 信号调理模块 柔性传感器 主控芯片
3
基于物联网的油库罐区巡检机器人任务分配方法及系统
任务分配策略 时空融合特征 实时状态信息 深度Q网络 时空注意力机制
4
基于空间注意力机制的图像分割方法
图像分割方法 融合特征 分支 注意力机制 处理单元
5
测试脚本获取方法、装置及电子设备
脚本获取方法 数据 图像识别技术 键盘 标签
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号