摘要
本发明公开了一种面向异构智能内容生成服务的资源分配与模型部署方法,该方法中构建了一个边‑云协同的AIGC服务网络模型,该模型架构包括多个请求AIGC服务的无线设备、一个边缘服务器和一个云服务器。在该网络中,这些无线设备请求三类异构AIGC服务,三类AIGC服务分别是轻量级AIGC服务、计算密集型AIGC服务和基于预处理的AIGC服务。本发明考虑边缘服务器只部署有限数量的AIGC服务模型,协同云服务器和边缘服务器的AIGC服务模型为所有设备提供服务。通过联合优化带宽分配、计算资源分配及边缘服务器模型部署决策,在边缘服务器存储容量有限的前提下,最小化所有无线设备AIGC服务请求的总体推理时延,实现资源分配与模型部署。
技术关键词
模型部署方法
资源分配
无线设备
上行传输时延
异构
云服务器
混合整数非线性规划
交叉熵算法
凸优化方法
KKT条件
计算机可执行指令
决策
处理器
无线网络
可读存储介质
链路
代表
系统为您推荐了相关专利信息
异构特征
前馈神经网络
诊断方法
样本
混合聚类算法
干扰优化方法
频谱共享
监督学习模型
智能合约执行
无线网络
全程可追溯
子模块
编码策略
李雅普诺夫指数
混沌特征
多源异构大数据
估算系统
开采方式
标签
价格预测模型