摘要
本公开提供了一种学习模型的硬件部署方法、相关装置和介质。该硬件部署方法包括:获取用于目标学习模型的处理单元部署的初始流水并行数和初始张量并行数;在部署方案节点跳转关系图上,定位初始流水并行数和初始张量并行数所在的初始部署方案节点;将部署方案节点跳转关系图和初始部署方案节点输入强化学习模型,得到使目标学习模型的推理性能最优化的目标部署方案节点,目标部署方案节点包括目标流水并行数和目标张量并行数;基于目标流水并行数和目标张量并行数,为目标学习模型部署处理单元。本公开实施例能扩大部署方法的适用范围,提高部署效率。
技术关键词
样本
处理单元
强化学习模型
流水
策略
关系
通信带宽
标签
通信量
邻居
节点更新
计算机程序产品
键值
单层
计算机设备
处理器
参数
定位单元
可读存储介质
系统为您推荐了相关专利信息
医疗系统
韧性提升方法
情景
蒙特卡洛模拟方法
医院
应力采集装置
高精度三维模型
模型预测值
数据接收模块
材料老化试验
改良策略
改良盐碱地
差值曲线
BP神经网络
盐碱地改良