针对模型服务的动态调度测试方法、介质、设备及产品

AITNT
正文
推荐专利
针对模型服务的动态调度测试方法、介质、设备及产品
申请号:CN202411038089
申请日期:2024-07-30
公开号:CN118869562A
公开日期:2024-10-29
类型:发明专利
摘要
本公开涉及一种针对模型服务的动态调度测试方法、介质、设备及产品,涉及仿真测试领域,通过线上运行环境的配置资源的资源信息和产生的业务流量的流量信息,基于资源信息,在模拟环境中创建用于模拟配置资源的模拟资源,根据流量信息,生成用于模拟业务流量的模拟流量,通过在模拟环境部署的调度器,接收并调度模拟流量至对应的模拟资源中,以对线上运行环境进行模拟测试,可以通过生成模拟流量来最大程度地模拟线上运行环境,从而对线上运行环境进行仿真测试。在线上运行环境的任意控制面、数据面新增软件功能时,都可以通过本公开实施例提供的测试方法对上线的线上运行环境进行充分测试,以保证上线部署的线上运行环境能够保持稳定性。
技术关键词
资源 调度测试方法 调度器 调度算法 流量推送 存储装置 图形处理器 指标 计算机程序产品 模拟模型 动态 测试模块 介质 电子设备 字典 接口 逻辑 在线
系统为您推荐了相关专利信息
1
电网异构集群资源管理方法、云端服务器、存储介质和计算机程序产品
集群资源管理方法 硬件设备 云端服务器 异构 参数
2
适用于大模型加速芯片的静态图分布式推理系统及方法
分布式推理方法 分布式调度器 推理系统 生成可执行文件 芯片
3
一种基于大数据的智慧消防控制方法及系统
火灾 关键词 大数据 汉明距离 智慧消防控制系统
4
基于Pareto改进的边缘-云协同优化资源调度的融合通信中台
任务调度算法 服务器 协同计算环境 节点间距离 资源
5
一种芯片测试管理方法、系统及装置
测试管理方法 补全策略 数据 覆盖结构 芯片
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号