一种模型资源管理方法及计算设备

本申请提供一种模型资源管理方法，应用于服务器，服务器部署有用于处理不同任务的多个模型，方法包括：响应于接收到用户请求，根据用户请求所请求执行任务的类型，从多个模型中确定目标模型以处理用户请求；获取目标模型处理多个用户请求的性能指标统计数据；根据性能指标统计数据为目标模型调整显存资源。由此，可以根据模型的运行需求管理显存资源，提高系统的资源利用效率和提升用户体验。