神经网络的多GPU训练

本发明公开了神经网络的多GPU训练，具体公开了用于在多个图形处理单元(GPU)上训练神经网络的装置、系统和技术。在至少一个实施例中，可以至少部分地基于一个或更多个数据集的两个或更多个随机选择的大小相似的部分来并行训练神经网络。