摘要
本发明公开了一种分布式系统的代价评估方法、装置、设备、介质及产品。方法包括:获取目标大模型的原始计算图和将目标大模型部署在目标分布式集群时使用的目标分布式并行方案;按照目标分布式并行方案对原始计算图进行切分得到单设备计算图;根据单设备计算图中算子的标注信息和目标分布式集群的架构信息,确定单卡计算图中算子的算子级代价;根据算子级代价计算设备级代价,并将各设备级代价按照各分布式策略进行组合,得到集群级代价;根据算子级、设备级和集群级代价,获取按照目标分布式并行方案将目标大模型部署在目标分布式集群时的系统性能分析结果。本发明实施例的技术方案可以高效、准确的评估出分布式建模过程中的系统性能分析结果。
技术关键词
系统性能分析
分布式策略
代价评估方法
分布式系统
可视化图表
集群通信
计算机程序产品
IO密集型
处理器
系统级芯片
数据项
人机交互界面
可读存储介质
流水
仿真数据
评估装置
电子设备
系统为您推荐了相关专利信息
智能查询方法
智能查询系统
查询意图
输配电
自然语言
机器人模型
硬件性能信息
实时数据采集
超参数
预训练模型
电力导线
故障定位系统
数字孪生模型
数据收集模块
故障特征
数据治理方法
数据存储模块
数据采集模块
制丝车间
统一数据接口
脱硫浆液循环泵
可视化图表
火电厂脱硫系统
泵组
负荷