一种分布式算力请求调度方法及系统

AITNT
正文
推荐专利
一种分布式算力请求调度方法及系统
申请号:CN202410923810
申请日期:2024-07-10
公开号:CN119025233A
公开日期:2024-11-26
类型:发明专利
摘要
本发明提供一种分布式算力请求调度方法及系统,该方法包括:接收各请求节点的算力请求;构建服务器节点可分配算力集合,并对集合中各服务器节点可分配算力进行排序;按节点优先级和所需计算资源进行排序后,各请求节点在可分配算力集合内进行搜索匹配,在最小服务时延约束下,建立请求节点与服务器节点的映射关系;其中,当请求节点所需计算资源大于服务器节点可分配算力,则将分配后剩余所需计算资源排序后重新进行搜索匹配,当服务器节点分配算力后,则更新可分配算力集合内服务器节点的排序;基于所述映射关系,为各请求节点分配算力资源。通过该方案可以降低降低调度算法开发难度和成本,避免局部算力紧张,并减少服务时延。
技术关键词
服务器节点 请求调度方法 时延 关系 资源分配 可读存储介质 调度算法 调度系统 匹配模块 处理器 队列 存储器 计算机 周期 电子设备
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号