应用于量化神经网络卷积层的可变精度计算单元的设计方法及使用方法

AITNT
正文
推荐专利
应用于量化神经网络卷积层的可变精度计算单元的设计方法及使用方法
申请号:CN202511384289
申请日期:2025-09-26
公开号:CN120874928B
公开日期:2025-12-16
类型:发明专利
摘要
本发明提供一种应用于量化神经网络卷积层的可变精度计算单元的设计方法及使用方法,对精度为1的向量进行移位运算,确定运算基本块的移位位数、维度和数量。排布运算基本块后用加法树连接构成阵列,得到可变精度的融合计算单元。据当前卷积层激活值与权重值的实际精度,配置可变精度融合计算单元阵列,各列融合计算单元并行计算;当前卷积层运算完毕后,根据下一层卷积层的数据精度,重新配置该二维阵列以此类推完成所有卷积层的运算。解决现有技术中运算单元在小于4比特的卷积运算中易造成计算资源的浪费的问题,无法灵活的根据卷积层的实际情况动态采用不同的量化位宽来处理数据,提升资源利用率及计算效率的问题。
技术关键词
精度 卷积层运算 处理单元 阵列结构 输出特征 比特流 特征值 物理 分片 数据 逻辑 算法 动态 资源
系统为您推荐了相关专利信息
1
基于多模态与深度学习的肿瘤CT图像智能分割系统
肿瘤CT图像 数据收集模块 分割系统 诊断特征 多模态
2
一种自动制孔机器人的窝深控制装置
制孔机器人 设备外壳 丝杆机构 脱离设备 调节刀具
3
基于双网格动态权重优化的固体力学计算方法及装置
非线性映射关系 动态权重优化 力学计算方法 固体 深度神经网络
4
一种基于机器学习的智能家居控制方法及系统
智能家居控制方法 决策 约束特征 数据 对象
5
可直接基于预训练模型的视觉运动预测加速方法及系统
预训练模型 输出特征 噪声预测 编码器特征 解码器
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号