学习模型的硬件部署方法、相关装置和介质

AITNT
正文
推荐专利
学习模型的硬件部署方法、相关装置和介质
申请号:CN202410955434
申请日期:2024-07-16
公开号:CN118966291B
公开日期:2025-02-25
类型:发明专利
摘要
本公开提供了一种学习模型的硬件部署方法、相关装置和介质。该硬件部署方法包括:获取用于目标学习模型的处理单元部署的初始流水并行数和初始张量并行数;在部署方案节点跳转关系图上,定位初始流水并行数和初始张量并行数所在的初始部署方案节点;将部署方案节点跳转关系图和初始部署方案节点输入强化学习模型,得到使目标学习模型的推理性能最优化的目标部署方案节点,目标部署方案节点包括目标流水并行数和目标张量并行数;基于目标流水并行数和目标张量并行数,为目标学习模型部署处理单元。本公开实施例能扩大部署方法的适用范围,提高部署效率。
技术关键词
样本 处理单元 强化学习模型 流水 策略 关系 通信带宽 标签 通信量 邻居 节点更新 计算机程序产品 键值 单层 计算机设备 处理器 参数 定位单元 可读存储介质
系统为您推荐了相关专利信息
1
一种城市医疗系统全过程协同韧性提升方法
医疗系统 韧性提升方法 情景 蒙特卡洛模拟方法 医院
2
一种基于深度学习的交通复杂场景目标检测方法及系统
关键点 特征点 卷积神经网络模型 坐标点 轮廓
3
基于数字孪生的桥梁信息化管理系统
应力采集装置 高精度三维模型 模型预测值 数据接收模块 材料老化试验
4
一种基于盐碱地分析的改良策略制定方法
改良策略 改良盐碱地 差值曲线 BP神经网络 盐碱地改良
5
一种基于深度学习和遗传特性进行猪品种鉴定的方法
样本 位点 神经网络深度学习 度量 神经网络模型
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号