分布式系统的代价评估方法、装置、设备、介质及产品

AITNT
正文
推荐专利
分布式系统的代价评估方法、装置、设备、介质及产品
申请号:CN202411546260
申请日期:2024-11-01
公开号:CN119046124B
公开日期:2025-02-11
类型:发明专利
摘要
本发明公开了一种分布式系统的代价评估方法、装置、设备、介质及产品。方法包括:获取目标大模型的原始计算图和将目标大模型部署在目标分布式集群时使用的目标分布式并行方案;按照目标分布式并行方案对原始计算图进行切分得到单设备计算图;根据单设备计算图中算子的标注信息和目标分布式集群的架构信息,确定单卡计算图中算子的算子级代价;根据算子级代价计算设备级代价,并将各设备级代价按照各分布式策略进行组合,得到集群级代价;根据算子级、设备级和集群级代价,获取按照目标分布式并行方案将目标大模型部署在目标分布式集群时的系统性能分析结果。本发明实施例的技术方案可以高效、准确的评估出分布式建模过程中的系统性能分析结果。
技术关键词
系统性能分析 分布式策略 代价评估方法 分布式系统 可视化图表 集群通信 计算机程序产品 IO密集型 处理器 系统级芯片 数据项 人机交互界面 可读存储介质 流水 仿真数据 评估装置 电子设备
系统为您推荐了相关专利信息
1
基于自然语言交互的输配电生产数据智能查询系统及方法
智能查询方法 智能查询系统 查询意图 输配电 自然语言
2
一种基于AI Agent的机器人模型调度方法及系统
机器人模型 硬件性能信息 实时数据采集 超参数 预训练模型
3
一种基于物联网的电力导线故障定位系统
电力导线 故障定位系统 数字孪生模型 数据收集模块 故障特征
4
一种面向制烟工业生产场景的流批一体化数据治理方法
数据治理方法 数据存储模块 数据采集模块 制丝车间 统一数据接口
5
基于可视化图表的脱硫浆液循环泵控制方法及系统
脱硫浆液循环泵 可视化图表 火电厂脱硫系统 泵组 负荷
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号