一种面向多模型服务的聚合算力池构建与通道轮询分配方法

本发明公开了一种面向多模型服务的聚合算力池构建与通道轮询分配方法，涉及算力分配技术领域。方法包括：算力池重构，分类算力单元，重构算力基础单位，将对应算力单元的算力进行汇总均分，形成新的算力基础单位，提高算力资源利用效率；通道轮询分配，算法动态分析，增设动态分析算法，预设任务数量分组，将轮询排队任务分为若干组，任务分组排序，按照计算时间多少对目标组任务进行排序，任务动态调度，预设时间阈值，当目标任务用时超过阈值时降低其算力，运算计算时间较短的其他任务。本发明可以提高算力资源利用效率，避免低算力需求任务排队等待，高算力任务需求占用算力资源，避免造成资源闲置率高。