一种模型推理一致性校验方法

AITNT
正文
推荐专利
一种模型推理一致性校验方法
申请号:CN202411620439
申请日期:2024-11-14
公开号:CN119127722B
公开日期:2025-02-18
类型:发明专利
摘要
本发明涉及模型服务技术领域,并具体公开了一种模型推理一致性校验方法,包括:部署模型管理服务和模型发布服务;在模型中心导入模型并选择适当的参数配置构建出初始模型;为初始模型配置训练环境信息,并根据基础数据集触发初始模型在训练环境中执行预测任务,获得训练任务执行结果,判断出初始模型在训练环境中是否正常运行,若是,则保留训练环境;向推理环境的初始模型同时调用批量服务算子和在线服务算子并输入相同的测试数据,获得比对输出结果;基于比对输出结果和模型发布服务,按照应用场景发布成批量服务或在线服务;通过模型管理服务能够自动触发预测任务,节省了模型一致性验证过程中的时间和人力成本。
技术关键词
批量 校验方法 偏差 逻辑 数据 场景 镜像仓库 超参数 在线 数值 基础 算法 人力 容器
系统为您推荐了相关专利信息
1
基于多源数据融合的智慧健康查体系统
查体系统 智慧健康 转移概率矩阵 马尔可夫模型 基础
2
一种防止水下清洁机器人脐带缠绕的控制方法及系统
水下清洁机器人 数据处理模块 控制执行模块 深度学习混合模型 控制机器人运动
3
一种基于实时影像的静脉穿刺路径引导方法及系统
路径引导方法 患者 静脉 影像 生理
4
一种基于网格空间分解优化的分布式水文模型GPU加速方法
分布式水文模型 GPU加速方法 网格 键值 序列
5
基于多源数据融合和人工智能的综合气象预警系统
气象预警系统 气候 检测传感器 充气式密封圈 数据分析模块
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号