面向决策大模型的多级异构内存协同调度方法

AITNT
正文
推荐专利
面向决策大模型的多级异构内存协同调度方法
申请号:CN202411655388
申请日期:2024-11-19
公开号:CN119576555B
公开日期:2025-10-31
类型:发明专利
摘要
本发明提供一种面向决策大模型的多级异构内存协同调度方法,包括获取异构内存系统的硬件配置信息和初始状态信息,基于爱尔朗分布族构建突发访存模型,结合自适应分层采样获取动态访存特征;采用多维效能度量和层级亲和度矩阵表征内存系统状态;接着基于广义极值理论预测负载特征,构建增广拉格朗日优化模型生成资源分配方案;通过帕累托优化算法制定数据迁移策略;引入汤普森采样的动态参数调整和基于组合预警指标的异常处理机制。本发明能够精确刻画访存特征、优化资源分配、降低迁移开销,提升决策大模型训练效率。
技术关键词
协同调度方法 硬件配置信息 异构内存系统 资源分配 数据迁移 决策 层级 矩阵 增广拉格朗日 访存特征 实时性能监控 系统监控模块 负载特征 广义极值理论 序列 模式特征向量 ADMM算法
系统为您推荐了相关专利信息
1
一种基于边缘计算的工业互联网实时协同控制方法
协同控制方法 工业互联网 生成时间序列数据 资源分配策略 时间序列模型
2
车辆队列模式下面向语义检测的资源分配方法
路边基站 通信链路 资源分配方法 信号噪声比 语义
3
一种支持非易失内存数据库的反缓存方法及储存介质
缓存方法 固态硬盘 非易失性内存 链表 管理算法
4
光伏发电场景下的无人智能巡检设备协同调度方法及系统
深度强化学习 智能巡检设备 决策系统 推理算法 网络
5
多模态大模型驱动的智能体收集决策数据的方法及系统
贝叶斯神经网络 决策 多模态信息融合 智能小车 信息熵
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号