摘要
本发明公开了一种分布式系统建模方法、装置、设备、介质及程序产品。该方法包括:获取待进行分布式建模的目标大模型的基准测试描述信息和用于部署目标大模型的分布式集群的集群信息;根据基准测试描述信息和集群信息,在多个备选分布式并行方案中确定出将目标大模型部署在分布式集群时的目标分布式并行方案;根据目标分布式并行方案,从算子级代价、设备级代价和集群级代价三个维度上,获取按照目标分布式并行方案将目标大模型部署在分布式集群时的系统性能分析结果。本发明实施例的技术方案提供了一种标准化的分布式建模方案,满足各类分布式部署以及性能评估需求。
技术关键词
系统性能分析
分布式策略
分布式配置
分布式系统
流水
建模方法
基准
语义
可视化图表
集群通信
通信带宽
计算机程序产品
通信效率
IO密集型
处理器
场景
系统级芯片
数据项
系统为您推荐了相关专利信息
历史运行状态
分布式系统
策略
资源配置优化方法
大语言模型
模型转换方法
字典
模型转换装置
非易失性计算机可读存储介质
处理器