一种嵌入式神经网络中间结果张量布局优化方法及系统

AITNT
正文
推荐专利
一种嵌入式神经网络中间结果张量布局优化方法及系统
申请号:CN202510945436
申请日期:2025-07-09
公开号:CN120832240A
公开日期:2025-10-24
类型:发明专利
摘要
本发明公开了一种嵌入式神经网络中间结果张量布局优化方法及系统,包括:通过深度与广度双重遍历策略解析计算图,捕捉不同计算拓扑顺序下的节点依赖关系,并针对每个中间结果张量,精准统计使用时间区间、时长、大小及面积等关键属性,对内存布局进行动态调整。同时,非致密模式通过灵活分配策略简化内存管理流程,适合对实时性要求较高的场景;致密模式通过分片布局技术整合碎片化空间,显著提升内存利用率。通过多策略下内存使用峰值、碎片状态及分片信息的对比分析,得到最优布局方案。本发明利用张量使用的时间差和空间可分性,避免传统方法的内存浪费,还通过策略融合与模式适配,在资源受限环境下实现内存需求的动态优化。
技术关键词
布局优化方法 内存 分片 布局模块 神经网络模型 平面图 模式 布局优化系统 节点依赖关系 资源受限环境 神经网络推理 布局技术 可读存储介质 处理器 多策略 定义
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号