面向生成式人工智能服务的边缘协同推理优化方法

AITNT
正文
推荐专利
面向生成式人工智能服务的边缘协同推理优化方法
申请号:CN202510072299
申请日期:2025-01-17
公开号:CN119473640A
公开日期:2025-02-18
类型:发明专利
摘要
本发明提供了一种面向生成式人工智能服务的边缘协同推理优化方法,涉及分布式计算技术领域,包括:客户端向边缘服务器发送模型请求以及文本描述;边缘服务器根据文本描述以及生成式人工智能模型生成初始噪声图像,并将生成式人工智能模型与初始噪声图像发送至客户端;客户端根据生成式人工智能模型以及初始噪声图像执行多轮推理过程,生成客户端噪声图像;边缘服务器基于客户端噪声图像继续执行剩余的推理过程,生成完成推理的噪声图片,通过变分自编码器对完成推理的噪声图片进行转换,得到生成图片。本发明有助于在有限的计算资源和网络带宽条件下保持服务的高质量表现,并显著提升了用户体验的稳定性与安全性。
技术关键词
人工智能服务 人工智能模型 噪声图像 客户端 服务器 文本 图片 编码器 分布式计算技术 调度器 云端 解码器 代表 动态 网络
系统为您推荐了相关专利信息
1
智能化校园安全监控与预警系统及其方法
校园安全监控 神经网络单元 预警服务器 视频分析 预警系统
2
服务器的优化方法、装置、电子设备及存储介质
性能预测模型 服务器运行状态 服务器性能评估 实时日志 异常数据
3
固体氧化物燃料电池电压预测方法
卷积神经网络模型 电压 训练集数据 输出特征 长短期记忆网络
4
大型语言模型代码翻译错误检测
代码结构 人工智能模型 计算机程序指令 度量 错误检测
5
数据清洗方法及服务器
结构化查询语言 数据清洗方法 唯一性 有效性 表达式
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号