基于算法与硬件协同的神经网络加速方法、装置及加速器

AITNT
正文
推荐专利
基于算法与硬件协同的神经网络加速方法、装置及加速器
申请号:CN202510019587
申请日期:2025-01-07
公开号:CN119416844B
公开日期:2025-04-18
类型:发明专利
摘要
本发明涉及一种基于算法与硬件协同的神经网络加速方法、装置及加速器,该方法包括:基于稀疏性阈值,处理量化张量的值级索引,以生成层元数据,并动态调整稀疏性模式;根据符号转换和位查找表识别非零比特的位置和数量,并将处理后的数据放入位分组中,以消除无贡献位;处理位分组,并将从层元数据中提取的自适应索引机制的相关输入和张量分配到位弹性处理单元,且根据非零比特位数执行移位加法计算;基于列式计算阵列,指令所有阵列在预设周期内完成乘法运算,并存储部分积以及对应于各自位宽的数据流。该发明能够使加速器控制器在计算过程中高效跳过这些零位,同时,提升了位级加速器的性能和适用性。
技术关键词
神经网络加速方法 索引机制 处理单元 符号 查找表 神经网络加速装置 加法器 阵列 数据 管理器 加速器控制器 多路复用器 算法 输入神经网络模型 神经网络加速器 标志 动态
系统为您推荐了相关专利信息
1
基于结构特征和操作交互的可打开式容器三维重建方法
三维重建方法 容器 三维模型 轮廓特征 深度图像去噪
2
模型训练方法及相关产品
共享存储空间 内存 文本 一台设备 模型训练方法
3
用于确定与交通工具环境相关的时空模式的方法
数据 注意力 存储器 感知系统 计算机系统
4
程序转换方法、装置、电子设备及存储介质
程序转换方法 预训练模型 格式化模块 数据 策略更新
5
多模型服务调度方法及装置
服务调度方法 端口 多模型 服务调度装置 系统状态检测
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号