一种结合硬件部署的模型部署方法及装置

本申请公开了一种结合硬件部署的模型部署方法及装置，根据目标模型部署环境中的设备节点及各设备节点对应的连接关系，构建设备节点对应的硬件拓扑图；解析目标模型中目标算子的依赖关系，以生成目标算子对应的模型计算图；根据硬件拓扑图和模型计算图，利用预设的评估算法，计算设备节点与目标算子之间的目标匹配值；根据目标匹配值和预设的分级策略，确定目标模型对应的部署方案。通过实时感知硬件状态与模型计算图的动态匹配机制，自动生成最优部署策略，并在硬件拓扑或资源条件变化时触发自适应优化，实现模型分割策略与异构环境的实时协同适配，显著提升部署自动化水平与系统弹性。