端侧设备下深度学习模型训练时的内存管理方法及装置

AITNT
正文
推荐专利
端侧设备下深度学习模型训练时的内存管理方法及装置
申请号:CN202410979092
申请日期:2024-07-22
公开号:CN118519786B
公开日期:2024-10-18
类型:发明专利
摘要
本发明公开了端侧设备下深度学习模型训练时的内存管理方法及装置,属于人工智能技术领域。上述方法包括:将待训练的DNN模型表示为图;层节点信息收集器获取待训练的DNN模型的各个层节点的基础信息;训练计划生成器基于各个层节点的基础信息,确定需要换出到外存的层节点中间输出数据;根据内存池分配规则及重计算规则确定需要重计算的层节点中间输出数据,需要重计算的层节点中间输出数据是待训练的DNN模型在训练过程中不进行存储的层节点中间输出数据。本发明实现DNN模型训练的低时延,低内存开销,满足端侧设备直接训练DNN模型的需求。
技术关键词
节点信息收集器 深度学习模型训练 DNN模型 内存管理方法 生成训练计划 数据存储 基础 低内存开销 内存管理装置 可读存储介质 人工智能技术 变量 标识 指令 电子设备
系统为您推荐了相关专利信息
1
一种基于神经影像的小动物精神疾病诊断系统
疾病诊断系统 云端数据管理平台 动物 深度学习模型训练 访问控制单元
2
一种极端降水的定量预测系统及方法
预测系统 定量预测方法 数据处理模块 数据采集单元 传感器模块
3
基于深度学习的数字孪生流域洪涝灾害预警预案生成系统
数字孪生模型 生成系统 多源异构数据 数字孪生建模 应急资源调度
4
多频改性吸附系统的智能控制方法
吸附系统 智能控制方法 改性 阶段 深度神经网络DNN模型
5
基于人机协同的婴幼儿大脑精细分区交互式标注方法
解码器 人机协同 标注方法 数据 图谱
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号