一种深度学习模型的增量部署方法及装置

本发明公开了一种深度学习模型的增量部署方法及装置，包括：定义基于文件夹的分布式存储结构用于模型存储，将模型的网络结构与权重参数解耦；读取配置文件，建立算子与权重映射关系，根据映射关系加载各层权重并执行前向推理；当部署端接收到更新请求时，首先下载新的配置文件，解析其中的变更信息；若为增量部署配置文件，则与原配置文件形成新配置文件；若为原配置文件修改映射关系的配置文件，则使用新配置文件；否则拒绝更新请求；通过新配置文件确定需要更新的算子集合，并为每个待更新算子创建副本；将新权重加载到算子副本中，并通过状态标记机制确保更新过程的原子性。本发明解决了现有技术中深度学习模型无法增量部署和热更新的问题。