针对深度学习模型的内存分配方法、计算机设备及介质

本申请提供一种针对深度学习模型的内存分配方法、计算机设备及介质。方法包括：获取目标深度学习模型中的模型参数量以及输入尺寸；获取所述目标深度学习模型的预期最大批处理量；基于所述模型参数量、所述输入尺寸以及所述预期最大批处理量，确定所述目标深度学习模型的预期内存容量；按照所述预期内存容量，为所述目标深度学习模型分配显卡内存。本申请通过基于目标深度学习模型中的模型参数量以及输入尺寸、预期内存容量，确定目标深度学习模型的预期内存容量，使得目标深度学习模型的显卡内存分配更加合理，以减少内存溢出或者模型推理速度下降的情况。