面向动态智能物联网的多模态模型分布式推理优化方法

本发明实施例提供了一种面向动态智能物联网的多模态模型分布式推理优化方法，包括：构建面向动态智能物联网的多模态模型分布式推理优化系统；在该系统中，包括多个产生并上传DNN推理任务的物联网设备以及多个接收并处理DNN推理任务的服务器；为该系统确定DNN推理任务数据并行调度策略；使用DNN推理任务数据并行调度策略，确定系统推理时间及系统能耗；根据系统推理时间及系统能耗构建长期能耗约束下的最小化长期时延，并以此作为优化目标构建长期分布式推理稳定优化模型；采用启发式算法进行模型求解，实现多模态模型分布式推理优化。以此方式，可以有效地管理多模态模型的分布式推理任务，优化推理时间和能耗。