模型数据布局优化方法、装置、电子设备及存储介质

AITNT
正文
推荐专利
模型数据布局优化方法、装置、电子设备及存储介质
申请号:CN202410805296
申请日期:2024-06-20
公开号:CN118734943A
公开日期:2024-10-01
类型:发明专利
摘要
本公开提供了模型数据布局优化方法、装置、电子设备及存储介质,涉及人工智能领域,尤其涉及深度学习、云计算与数据处理等技术领域。具体实现方案为:计算单元基于模型的第一计算图确定目标网络流图;计算单元在目标网络流图上运用最小割算法,得到第一集合和第二集合,其中,第一集合中的节点将在第一数据布局下运行;第二集合中的节点将在第二数据布局下运行;计算单元基于第二集合对第一计算图中的节点进行改写,得到模型的第二计算图,将模型的第二计算图存储至内存单元。根据本公开的方案,能对模型的数据布局进行优化,减少了因数据布局转换而引入的算子的计算开销,从而有助于提升模型的执行效率。
技术关键词
节点 网络流图 数据布局优化方法 变量 算法 内存 模块 电子设备 计算机程序产品 矩阵 优化装置 处理器通信 指令 可读存储介质 存储器
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号