摘要
本发明属于电网领域大模型部署技术领域,提供了一种电网领域大模型的部署方法及系统。其中,电网领域大模型的部署方法包括基于单个参数内存开销、单个梯度内存开销、单个优化器状态内存开销、模型参数量及数据并行、模型并行和流水线并行中的工作节点数量这些参数与计算存储协同的并行分解策略中内存开销之间的关系,计算出内存开销最小的计算存储协同的并行分解策略,确定出电网领域大模型的并行分解策略;基于电网领域大模型的并行分解策略,利用超参数输入硬件设备信息和深度学习框架,自动进行硬件资源分配,然后利用制导语句进行深度学习模型结构设置和并行分解方案配置,完成代码自动翻译,实现深度学习模型自动转换和训练。
技术关键词
内存
深度学习模型
硬件设备信息
深度学习框架
优化器
数据并行策略
流水线
超参数
节点
语句
处理器
关系
浮点数
可读存储介质
存储器
电子设备
系统为您推荐了相关专利信息
数据识别方法
深度学习模型训练
指标
染色体
表达式
节点
非易失性存储器
历史统计数据
非瞬时性计算机可读存储介质
复杂度
情感识别模型
音频
识别模块
生成系统
显示控制模块
多元时序数据
深度学习网络模型
资金
指标
构建深度学习网络
语音机器人
深度学习模型
韵律特征
麦克风阵列
意图