摘要
本发明公开了一种分布式计算系统、方法、电子设备、存储介质及程序产品,涉及人工智能技术领域,包括本地部署有端侧扩散模型的第一设备和第二设备,还包括输入设备,利用输入设备将端侧扩散模型的推理任务输入至第一设备,第一设备将推理任务拆分为第一任务和第二任务,将第一任务输入第一设备本地部署的端侧扩散模型,将第二任务输入第二设备本地部署的端侧扩散模型,第一设备和第二设备并行执行各自任务,两条计算路径并行执行,提高计算效率,解决了相关技术存在端侧运行扩散模型时面临计算资源消耗大、并行推理能力弱、以及缺乏分布式通信支持等缺陷,难以满足效率需求的技术问题,达到了提升端侧扩散模型推理的计算效率的技术效果。
技术关键词
分布式计算系统
分布式计算方法
内存架构
输入设备
内存访问技术
处理器
电子设备
可读存储介质
存储计算机程序
人工智能技术
计算机程序产品
编码器
数据编码
文本
基础
功耗
模块
系统为您推荐了相关专利信息
数字孪生技术
数字孪生体
实体
场景
沉浸式体验系统
同步测试系统
同步测试方法
报文
虚拟输入设备
数据同步
时域特征
频域特征
电弧故障检测方法
随机森林模型
故障预测模型
笔记本电脑部件
母连接器
电池模块
控制芯片
电量计
日志数据处理方法
分布式搜索引擎
负载均衡算法
收集日志数据
日志数据处理装置