一种基于云原生部署的模型管理与调度的方法、介质及系统

AITNT
正文
推荐专利
一种基于云原生部署的模型管理与调度的方法、介质及系统
申请号:CN202410962060
申请日期:2024-07-18
公开号:CN118502970B
公开日期:2024-10-01
类型:发明专利
摘要
本发明公开了一种基于云原生部署的模型管理与调度的方法、介质及系统,模型管理方法包括模型封装步骤、模型资源描述步骤、模型应用集成步骤;模型调度方法包括模型应用流程解析与控制步骤、基于前置任务匹配的调度优化步骤、多维度异构资源感知的任务混合调度步骤。本发明采用分布式任务调度方法,实现模型粒度的任务能够派发到性能更好、资源匹配度更高的计算节点上执行,尤其适合大规模科学计算任务的执行。
技术关键词
节点 资源 模型调度方法 模型管理方法 分布式任务调度方法 镜像 计算机可执行指令 关系型数据库 有向无环图 大规模科学计算 得分计算方法 队列 调度装置 分类方法 多标签 定义 异构 模型库 可读存储介质
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号