一种基于专家并行的张量确定方法、设备及存储介质

本申请实施例提供了一种基于专家并行的张量确定方法、设备及存储介质，涉及人工智能芯片技术领域，该方法包括：在输入张量的隐藏层维度，将输入张量拆分为N个子张量；将N个子张量分配到N个计算单元各自部署的专家子网络并行计算。由于每个专家子网络是通过相应的第一权重参数对分配的子张量进行计算，因此，专家子网络的第一权重参数与分配的子张量在形状上是需要适配的；基于此，针对第一权重参数中与子张量的隐藏层维度关联的目标维度，将该目标维度的长度设置为子张量的隐藏层维度的长度，这样减小了第一权重参数在目标维度的长度，即减少专家子网络的权重参数本身需要占用的显存空间，从而降低显存的存储压力。