摘要
本发明涉及无线通信领域,尤其是指边缘节点调度系统、边缘节点调度方法及边缘节点,所述边缘节点调度系统包括:数据请求模块、管理后端模块、性能收集器、调度器、预测器以及控制器,数据请求模块负责接收端侧设备请求,并分类放入动态队列;管理后端模块则根据资源和任务需求,调用并发推理模型批处理数据,生成网络性能指标;性能收集器持续监测并收集这些指标及资源利用率;调度器据此制定节点资源调度策略;预测器预测资源干扰,辅助调度器决策;控制器依据调度策略切换模型、调整batch size及并发数,实现资源动态优化。本发明通过创新的边缘节点调度框架,实现了数据的本地化高效处理,提升了AI推理任务的执行效率,并显著提高了资源利用率。
技术关键词
资源调度策略
资源调度模型
节点调度方法
系统运行状态
调度系统
调度器
队列
数据
深度神经网络
贪婪策略
动态
总线系统
执行存储器存储
收集器
神经网络结构
接收端
参数