伸缩策略模型生成及部署执行方法、装置、设备及介质

本发明涉及计算机技术领域，可应用于金融科技和医疗健康领域，公开了一种伸缩策略模型生成及部署执行方法、装置、设备及介质，方法包括：构建硬件在环仿真环境，其中，所述硬件在环仿真环境用于模拟GPU推理服务的运行状态与性能指标，且在所述GPU推理服务时，所述硬件在环仿真环境中的关键指标与生产硬件环境中的关键指标的偏差在预设阈值内；在所述硬件在环仿真环境中，通过训练强化学习代理生成自动伸缩策略模型。提高了伸缩决策的准确度以及降低了伸缩策略模型训练的成本。