摘要
本发明涉及一种内存高效的容错性卷积方法,包括:(1)内存优化:对输入特征张量I进行内存优化转换,生成中间张量L;(2)分块矩阵并行乘法:按卷积核高度kh和输出高度oh,将中间张量L与卷积核张量F划分为子矩阵,并行执行矩阵乘法GEMM计算输出张量O;(3)多批次处理:在多批次卷积中采用批次混合排布方式重构中间张量L;(4)容错校验与纠错:将输入特征张量I划分为in个元素组,并计算用于检错和纠错的校验和Co1、Co2及输出校验和So1、So2,通过比较Co1与So1、Co2与So2定位并修正出错的元素值。该方法在保证计算速率的同时可显著降低内存消耗,并能准确检测和修正因攻击导致的出错元素,且适用于采用多批次卷积的深度学习模型推理。
技术关键词
卷积方法
元素
内存
数据格式
矩阵
纠错
排布方式
滑动窗口
生成高度
深度学习模型
分块
重构
冗余
坐标
速率
通道
系统为您推荐了相关专利信息
虚拟机监控器
前端模块
分配接口
内存访问请求
物理
矿用输送带
缺陷检测方法
立体视觉
对比度
彩色图像
饮食推荐方法
营养素
食物数据库
遗传算法
染色体