基于GPU负荷信息的GPU分配方法及装置

本发明公开基于GPU负荷信息的GPU分配方法及装置，其方法包括接收GPU分配请求，所述GPU分配请求来自于AI计算算法服务；收集GPU信息，在收集GPU信息成功后解析所述GPU信息获得多个GPU的信息值及GPU index标识；根据所述多个GPU的信息值计算最小负荷的GPU，选择所述最小负荷的GPU的GPU index标识返回所述AI计算算法服务。本发明根据所述多个GPU的信息值计算最小负荷的GPU，选择所述最小负荷的GPU的GPU index标识返回所述AI计算算法服务，可避免随机选择导致GPU选择不合理，提升AI计算能力。