摘要
本公开的实施例公开了模型部署方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括:获取目标模型文件;根据目标模型文件,生成初始计算图;根据待部署节点的节点配置信息集合,确定模型部署类型;根据模型部署类型和算子节点对应的算子描述信息,对初始计算图进行图优化,以生成优化后计算图;对优化后计算图进行计算图混淆,以生成混淆后计算图;根据混淆后计算图,生成待部署模型文件;根据节点配置信息集合和模型部署类型,生成部署策略信息;根据部署策略信息,将待部署模型文件部署在待部署节点。该实施方式完善了模型在不同节点的模型部署方式,高效利用了不同节点的计算资源。
技术关键词
模型部署方法
节点依赖关系
标识
配置特征
机器学习模型
状态更新
电子设备
处理器
定义
计算机
存储装置
介质
资源
策略
程序
动态