边端环境下面向能耗优化的多设备多神经网络应用拆分推理方法

AITNT
正文
推荐专利
边端环境下面向能耗优化的多设备多神经网络应用拆分推理方法
申请号:CN202410975156
申请日期:2024-07-19
公开号:CN118964006A
公开日期:2024-11-15
类型:发明专利
摘要
本发明涉及一种边端环境下面向能耗优化的多设备多神经网络应用拆分推理方法,属于计算机服务技术领域。该方法旨在解决工业互联网中深度神经网络模型在端设备上推理的能耗问题。通过对边端环境和DNN模型精细化建模,结合遗传算法和贪心策略,生成DNN分区与卸载策略和资源分配方案,在成本和最大端到端延迟约束下实现最小化端设备功耗的目标。该方法支持大规模数量的端设备,且每个端设备上可部署多个不同复杂DNN模型,通过精细化的资源分配和任务调度,能够在成本约束下充分利用环境中的多个边缘服务器。本发明为工业互联网领域的DNN模型推理提供了一种能耗优化的解决方案,推动IIoT系统的智能化发展。
技术关键词
推理方法 DNN模型 边缘计算环境 贪心策略 数据传输延迟 分区 遗传算法 服务器内存 计算机服务技术 IIoT系统 工业互联网 资源分配 卸载策略 功耗 深度神经网络模型 面向能耗 网络拓扑结构
系统为您推荐了相关专利信息
1
一种加密网络异常流量检测方法、系统、设备及介质
网络异常流量检测 中心服务器 嵌入特征 加密 时序特征
2
一种针对多芯粒的存内计算数模混合DNN加速器的优化方法
图谱 加速器 集成芯片 多芯 数据依赖关系
3
基于知识图谱与图神经网络的可持续发展目标预测方法
神经网络模型 图谱 指标 推理方法 数据
4
基于可信执行环境的大模型安全推理方法、介质及设备
可信执行环境 推理方法 加密数据 生成程序 信封
5
一种基于重叠兴趣社区检测的影响力阻断最大化算法
节点 兴趣社区检测 社区结构 邻居 最大化算法
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号