摘要
本申请公开了一种运行在云计算平台上的任务处理方法、装置及设备,涉及云计算技术领域。云计算平台可以根据任务类型和业务容器组的任务处理性动态调整待推理任务的调度策略,能够避免相关板卡的硬件资源被长时间占用。在节省硬件资源的同时提升任务处理的灵活性。该方法包括:获取待推理任务的任务信息以及业务容器组的能力信息;根据待推理任务的任务类型以及多个调度策略中每个调度策略对应的业务容器组的能力信息从该多个调度策略中确定目标调度策略,该每个调度策略用于指示调度该每个调度策略对应的业务容器组处理该每个调度策略对应的推理任务;调度该目标调度策略对应的业务容器组处理该待推理任务。
技术关键词
容器组
策略
模块
模拟器
调度器
搜索器
计算机程序指令
集群
分析器
平台
板卡
云计算技术
大语言模型
计算机程序产品
阶段
关系
时延
可读存储介质
解码
系统为您推荐了相关专利信息
图像识别系统
巡检无人机
交通道路
航拍视频图像
图像捕捉模块
网络信号强度
远程控制方法
设备状态数据
无线投屏设备
远程控制指令
序列
信息推荐方法
信息推荐设备
消息
信息推荐装置
称重误差
加密数据
历史监测数据
动态密钥
实时监测数据