一种训练与推理一体化的实现方法、装置、设备、存储介质及产品

AITNT
正文
推荐专利
一种训练与推理一体化的实现方法、装置、设备、存储介质及产品
申请号:CN202410818157
申请日期:2024-06-24
公开号:CN118796465A
公开日期:2024-10-18
类型:发明专利
摘要
本发明公开了一种训练与推理一体化的实现方法、装置、设备、存储介质及产品,涉及数据处理技术领域。其中,该方法包括:根据资源池中的资源状态和目标对象的资源需求信息为目标对象分配对应的运行态资源和开发态资源;基于目标数据的数据特征信息从预先创建的模型库中选择相匹配的初始模型;基于初始模型的模型性能评估结果和硬件资源使用量对初始模型进行调整得到对应的目标模型;将目标模型对应的模型服务镜像一键发布至运行态资源中,以在运行态资源中进行运行推理。通过训练与推理一体化,实现训练和推理的高效协同;通过资源状态分配所需资源,实现资源的动态调整法分配,提高资源的利用率;同时通过一键发布实现目标模型的快速部署和应用。
技术关键词
模型库 对象 数据分布 镜像 资源分配模块 数据存储空间 处理器 模型压缩 数据处理技术 计算机程序产品 规模 可读存储介质 存储器 电子设备 动态
系统为您推荐了相关专利信息
1
一种基于知识图谱的模型检索方法
节点 仿真模型 模型检索方法 模型库 词向量训练
2
一种应对方案评估方法、装置、设备及介质
模型库 存储程序代码 效能 数据获取单元 可读存储介质
3
一种用于舌面诊断的图像智能处理系统及方法
标签 舌象特征 生成用户 分析模块 数据
4
情境空间和聚焦模式
空间定位信息 音频 非暂态计算机可读存储介质 头戴式设备 存储程序指令
5
一种基于超融合存储系统的硬件资源管理方法
超融合存储系统 硬件资源管理方法 业务分配资源 卷积神经网络模型 存储容量参数
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号