摘要
本发明涉及通信管理技术领域,公开了面向AI与大数据场景的动态资源分配与能效优化方法,包括:对LLM推理集群在历史时间段内的多组三维状态矩阵分别确定对应的分形维数以及香浓熵,并进一步确定滑动窗口长度和触发阈值;在第i个监测时间段内,基于滑动窗口长度对LLM推理集群的三维状态矩阵进行去趋势与分解处理,得到对应的有效秩;确定有效秩的变化速率,以基于有效秩和对应的变化速率判断是否发生同步阻塞;响应于同步阻塞的发生,以基于三维状态矩阵,结合第i个监测时间段内LLM推理集群中每个图形处理单元的Decode队列长度,生成正交载荷向量。
技术关键词
图形处理单元
能效优化方法
动态资源分配
滑动窗口
整数规划模型
矩阵
时间段
集群
速率
场景
载荷
通信管理技术
队列
匈牙利算法
数据
序列
变量
元素
阶段
网络
系统为您推荐了相关专利信息
模糊神经网络控制
积分控制模块
反馈控制方法
计算机可执行指令
输入输出接口
概率预测方法
高炉冷却壁
渣皮厚度
机械振动频率
温度传感器阵列
接口调用系统
自然语言解析
模糊语义
门控循环神经网络
索引检索系统