摘要
本发明属于电网领域大模型部署技术领域,提供了一种电网领域大模型的部署方法及系统。其中,电网领域大模型的部署方法包括基于单个参数内存开销、单个梯度内存开销、单个优化器状态内存开销、模型参数量及数据并行、模型并行和流水线并行中的工作节点数量这些参数与计算存储协同的并行分解策略中内存开销之间的关系,计算出内存开销最小的计算存储协同的并行分解策略,确定出电网领域大模型的并行分解策略;基于电网领域大模型的并行分解策略,利用超参数输入硬件设备信息和深度学习框架,自动进行硬件资源分配,然后利用制导语句进行深度学习模型结构设置和并行分解方案配置,完成代码自动翻译,实现深度学习模型自动转换和训练。
技术关键词
内存
深度学习模型
深度学习框架
硬件设备信息
优化器
数据并行策略
流水线
超参数
节点
语句
处理器
关系
浮点数
可读存储介质
存储器
电子设备
系统为您推荐了相关专利信息
图像处理模块
图像采集模块
数据智能采集装置
数据输出模块
控制模块
PCA算法
电池状态预测方法
数据
协方差矩阵
深度学习模型