摘要
本发明提供了一种任务执行方法、电子设备、介质、程序产品,涉及人工智能技术领域。该任务执行方法包括:响应于接收到多个推理请求,将基于多个推理请求生成的多个推理任务划分为N个批次,其中,各推理任务包括拟依次执行的计算子任务和后处理子任务;依次执行N个批次的推理任务,得到任务执行结果,其中,执行第n批次的推理任务包括:向计算单元发送第n批次计算子任务;在计算单元执行完第n批次计算子任务的情况下,向计算单元发送第n+1批次计算子任务以及在计算单元执行第n+1批次计算子任务的过程中,同步执行第n批次后处理子任务。该任务执行方法可以提高计算资源利用率。
技术关键词
基础
电子设备
人工智能技术
计算机程序产品
处理器
语义
指令
数据存储
可读存储介质
注意力
存储器
编码
系统为您推荐了相关专利信息
智能模型
故障定位方法
拓扑图
参数
故障网络设备
环境光传感器数据
护眼模式
生成方法
数据存储对象
分布式数据库
宣传方法
公益
太阳能供电模块
语音提示模块
人脸识别装置
风险识别模型
终端设备
业务数据处理方法
业务数据处理装置
策略