摘要
本公开的实施例涉及装置、方法和计算机程序。提供了一种装置,包括:用于在第一实体处从第二实体接收请求的部件,该请求用以将用于应用的机器学习模型的至少一个推理步骤卸载到网络的主机节点,该网络包括多个主机节点;用于获取与应用相关的第一信息的部件;用于获取与机器学习模型相关的第二信息的部件;用于获取与多个主机节点中的至少一个主机节点相关的第三信息的部件,其中第三信息至少包括与多个主机节点中的至少一个主机节点相关联的碳排放足迹的指示;用于基于第一信息、第二信息和第三信息确定卸载在多个主机节点中的至少一个主机节点上的至少一个推理步骤的至少一个部署选项的部件;以及用于从第一实体向第二实体提供所确定的至少一个部署选项的指示的部件。
技术关键词
机器学习模型
主机
节点
实体
云服务器
通信网络
复杂度
数据
指令
计算机
介质
参数