机器学习模型部署方法、装置、设备及存储介质

本申请公开了一种机器学习模型部署方法、装置、设备及存储介质，涉及机器学习技术领域，该方法包括：通过分布式协调中间件监测各个服务节点，各个服务节点部署有机器学习模型，机器学习模型的预测模型标记语言文件存储在分布式文件存储系统；在接收到模型变更指令时依次调用服务节点上对应的变更接口；从分布式文件存储系统中获取更新的预测模型标记语言文件，并对各个服务节点进行机器学习模型的变更部署。由于本申请通过分布式协调中间件监测机器学习模型部署的各个服务节点，当变更机器学习模型时，可通过分布式协调中间件依次调用对应的变更接口，而无需重新启动所有模型，实现了在不停服的前提下进行模型动态变更部署，保证了服务的连续性。