摘要
本申请实施例提供一种利用稀疏性的存内计算芯片架构及存内计算芯片。在本申请实施例中,存内计算芯片架构中第一CIM单元和第二CIM单元用于对模型训练过程进行加速。第一调度单元对前向传播任务和反向传播任务进行拆分和组合,得到多个任务组。第二调度单元先为每一个任务组中的第一任务包和第二任务包生成初步调度计划,然后,当初步调度计划对应的空载时长大于或等于预设的空载时长上限,则将所述初步调度计划中存在空载情况的CIM单元所负责的任务包中的部分任务调度给不存在空载情况的CIM单元,得到目标调度计划,第二调度单元通过该处理能够缩短空载时长,从而提高模型训练时的硬件利用率。
技术关键词
浮点数
配置存储单元
计划
芯片架构
神经网络处理器
负载调度器
格式
数据分布
扩展模块
任务调度
中央处理器
参数
精度
存储器
流水线
数值
模式
系统为您推荐了相关专利信息
决策方法
储能设备
发电机组
计算机可执行指令
数学模型
区间灰数
航空复合材料
产能评估方法
混合整数线性规划模型
启发式方法
巡检数据
状态转移模型
转移概率矩阵
运维设备
设备巡检