模型部署方法、装置、电子设备和计算机可读介质

AITNT
正文
推荐专利
模型部署方法、装置、电子设备和计算机可读介质
申请号:CN202410815814
申请日期:2024-06-24
公开号:CN118394717B
公开日期:2024-11-12
类型:发明专利
摘要
本公开的实施例公开了模型部署方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括:获取目标模型文件;根据目标模型文件,生成初始计算图;根据待部署节点的节点配置信息集合,确定模型部署类型;根据模型部署类型和算子节点对应的算子描述信息,对初始计算图进行图优化,以生成优化后计算图;对优化后计算图进行计算图混淆,以生成混淆后计算图;根据混淆后计算图,生成待部署模型文件;根据节点配置信息集合和模型部署类型,生成部署策略信息;根据部署策略信息,将待部署模型文件部署在待部署节点。该实施方式完善了模型在不同节点的模型部署方式,高效利用了不同节点的计算资源。
技术关键词
模型部署方法 节点依赖关系 标识 配置特征 机器学习模型 状态更新 电子设备 处理器 定义 计算机 存储装置 介质 资源 策略 程序 动态
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号