一种用于大模型的计算资源调度优化方法

AITNT
正文
推荐专利
一种用于大模型的计算资源调度优化方法
申请号:CN202411845038
申请日期:2024-12-16
公开号:CN119311395B
公开日期:2025-04-04
类型:发明专利
摘要
本发明公开了一种用于大模型的计算资源调度优化方法,涉及涉及资源调度优化技术领域,将任务分为异常任务、普通任务两大类,并根据每个计算节点的资源处理能力值和请求次数匹配一个权重值,将计算节点分为将计算节点分为普通计算节点和缓冲计算节点,第一优先级为异常任务,首先调度普通计算节点中的空闲计算节点视为缓冲临时计算节点,暂时提高缓冲计算节点的负载能力,以便匹配异常任务的任务需求,能够有效解决面对突发、异常任务需求的问题,能够有效解决面对突发、异常任务需求的问题,实现了动态计算资源调度优化效果,并且提高了计算结果的准确性。
技术关键词
节点 调度优化方法 缓冲 资源调度优化技术 标记 通知 算法 动态
系统为您推荐了相关专利信息
1
基于北斗定位的移动轨迹大数据分析处理方法
轨迹 拜占庭容错 邻域 分布式共识 信号
2
基于脑电的视性错觉可解释性智能评估方法
视性错觉 智能评估方法 脑网络特征 电信号 训练样本集
3
用于静脉血栓相关SNP检测的探针及应用和静脉血栓风险预测系统
多环芳香族 风险预测系统 血栓 静脉 探针
4
担保追索代偿全流程监管方法及系统
计划 监管方法 设备身份验证 基础 监管系统
5
一种电子信息数据可视化智能处理方法
数据可视化 融合传感器 关键路径优化 节点 优化数据路径
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号