一种神经网络矩阵乘法加速器及其部署方法

AITNT
正文
推荐专利
一种神经网络矩阵乘法加速器及其部署方法
申请号:CN202411806772
申请日期:2024-12-10
公开号:CN119761434A
公开日期:2025-04-04
类型:发明专利
摘要
本发明涉及人工智能的神经网络推理计算领域,提供一种神经网络矩阵乘法加速器及其部署方法,旨在提高人工智能神经网络推理计算领域的计算效率。该加速器基于脉动阵列设计,包括脉动阵列计算模块、控制指令链模块和统一缓存及内存读写模块。本发明还提供了脉动阵列中改进处理单元(Process Element,PE)的控制寄存器配置值的计算方法、重排序模块的排序配置项计算方案以及加速器的调度方案。该加速器具有通用性,能够在同一硬件结构下进行任意掩码的矩阵乘法运算,并有效利用FPGA的高并发特性,减少计算时间,提高能效比。
技术关键词
硬件加速器 掩码矩阵 配置计算方法 旁路 人工智能神经网络 模块结构 神经网络推理 矩阵乘法运算 内存 索引 流水 输入端 分块 加法器 时序 处理单元
系统为您推荐了相关专利信息
1
生成视觉IP图片素材的生成式模型的训练方法、视觉IP图片生成方法
预训练模型 掩码矩阵 样本 视觉 训练系统
2
大语言模型的参数剪枝方法、装置、设备及可读存储介质
度量 掩码矩阵 大语言模型 剪枝方法 注意力
3
一种知识产权民事侵权行为及适用法律法条预测方法
多层感知机 法条预测方法 注意力 编码器模块 案件数据
4
一种低噪声放大器、射频芯片以及通信设备
低噪声放大器 旁路工作模式 宽带匹配网络 输入匹配电路 输出匹配电路
5
一种基于数据增强的提高可迁移性的物理对抗补丁生成方法、系统和电子设备
补丁生成方法 随机噪声 检测损失 数据 掩码矩阵
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号