摘要
本发明提供了一种面向生成式人工智能服务的边缘协同推理优化方法,涉及分布式计算技术领域,包括:客户端向边缘服务器发送模型请求以及文本描述;边缘服务器根据文本描述以及生成式人工智能模型生成初始噪声图像,并将生成式人工智能模型与初始噪声图像发送至客户端;客户端根据生成式人工智能模型以及初始噪声图像执行多轮推理过程,生成客户端噪声图像;边缘服务器基于客户端噪声图像继续执行剩余的推理过程,生成完成推理的噪声图片,通过变分自编码器对完成推理的噪声图片进行转换,得到生成图片。本发明有助于在有限的计算资源和网络带宽条件下保持服务的高质量表现,并显著提升了用户体验的稳定性与安全性。
技术关键词
人工智能服务
人工智能模型
噪声图像
客户端
服务器
文本
图片
编码器
分布式计算技术
调度器
云端
解码器
代表
动态
网络
系统为您推荐了相关专利信息
校园安全监控
神经网络单元
预警服务器
视频分析
预警系统
性能预测模型
服务器运行状态
服务器性能评估
实时日志
异常数据
卷积神经网络模型
电压
训练集数据
输出特征
长短期记忆网络
代码结构
人工智能模型
计算机程序指令
度量
错误检测
结构化查询语言
数据清洗方法
唯一性
有效性
表达式