模型权重文件的分发方法、装置、计算机程序产品、主机及存储介质

AITNT
正文
推荐专利
模型权重文件的分发方法、装置、计算机程序产品、主机及存储介质
申请号:CN202510829153
申请日期:2025-06-20
公开号:CN120336272B
公开日期:2025-10-10
类型:发明专利
摘要
本申请提供一种模型权重文件的分发方法、装置、计算机程序产品、主机及存储介质,涉及软件技术领域,主机监测执行模型运行任务的目标容器的工作状态,工作状态包含启动状态,目标容器在所述启动状态下能够访问主机的主机目录;响应目标容器在启动状态下发送的、针对目标模型权重文件的第一查询请求,查询目标模型权重文件在主机目录下的目标文件地址;将目标文件地址返回给目标容器,以使目标容器基于目标文件地址在主机目录下加载目标模型权重文件。本申请不但可以解除模型权重文件与容器镜像的绑定、以及多容器对同一模型部署时的磁盘占用,还可以实现容器在主机目录下对模型权重文件的自动加载,减少多主机部署时的工作量、并提高安全性。
技术关键词
主机 容器 标识 目录 分发装置 计算机程序产品 计算机可读指令 虚拟化技术 下线 仓库 操作系统 计算机存储介质 存储计算机程序 分发模块 处理器 监测模块 存储器 工作量 磁盘 镜像
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号