一种训练AI推理业务的异构资源协同调度方法

AITNT
正文
推荐专利
一种训练AI推理业务的异构资源协同调度方法
申请号:CN202411658903
申请日期:2024-11-19
公开号:CN119545437B
公开日期:2025-06-27
类型:发明专利
摘要
本发明公开了一种训练AI推理业务的异构资源协同调度方法,包括以下步骤:基于分布式模型训练的AI推理协作异构资源调度问题建立了一个混合整数线性规划模型MILP,且所提出的MILP的最终目标为最大化成功发送AI推理子任务的数量,并最小化NG‑RAN中异构资源的使用率和AI推理服务的积压;构建边缘计算资源请求、计算处理能力、边缘服务器上AI推理子任务的任务积压阈值、AI推理子任务的投诉率阈值作为约束条件;规范DU‑CU在网络架构中的部署;调节网络中的波长分配;规定网络的容量要求。本发明可实现最大化成功发送的AI推理服务子任务数量,同时最小化异构资源占用率和AI推理服务子任务积压量。
技术关键词
协同调度方法 数据中心 节点 变量 混合整数线性规划模型 异构 链路 分布式模型 网络架构 资源调度算法 波长 贪婪策略 服务器 连续性 光电 资源分配 端点 列表
系统为您推荐了相关专利信息
1
一种绝缘子局部放电来源识别方法及系统
来源识别方法 特征选择 电信号 局部放电检测 识别系统
2
科技影视大模型驱动的场景理解与剧本分析的智能拍摄方法
拍摄镜头 语义 智能拍摄方法 文本 情感特征
3
融合数值预报的AI气象台站数据质量控制方法
异常状态 动态误差补偿 物理 序列 气象观测数据
4
一种基于大数据的零售促销优化方法及系统
策略 分群 大数据 构建智能合约 执行促销活动
5
一种基于约束强化学习的多微电网协作调度方法
协作调度方法 强化学习模型 投影模块 度量 微电网系统
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号