摘要
本发明涉及模型服务技术领域,并具体公开了一种模型推理一致性校验方法,包括:部署模型管理服务和模型发布服务;在模型中心导入模型并选择适当的参数配置构建出初始模型;为初始模型配置训练环境信息,并根据基础数据集触发初始模型在训练环境中执行预测任务,获得训练任务执行结果,判断出初始模型在训练环境中是否正常运行,若是,则保留训练环境;向推理环境的初始模型同时调用批量服务算子和在线服务算子并输入相同的测试数据,获得比对输出结果;基于比对输出结果和模型发布服务,按照应用场景发布成批量服务或在线服务;通过模型管理服务能够自动触发预测任务,节省了模型一致性验证过程中的时间和人力成本。
技术关键词
批量
校验方法
偏差
逻辑
数据
场景
镜像仓库
超参数
在线
数值
基础
算法
人力
容器
系统为您推荐了相关专利信息
查体系统
智慧健康
转移概率矩阵
马尔可夫模型
基础
水下清洁机器人
数据处理模块
控制执行模块
深度学习混合模型
控制机器人运动
气象预警系统
气候
检测传感器
充气式密封圈
数据分析模块