摘要
本公开提供了一种任务处理方法,涉及人工智能技术领域,尤其涉及芯片、大模型和云计算技术领域。具体实现方案为:将待处理解码任务的第一解码缓存数据与用于待处理解码任务的预填充缓存数据融合,得到待处理解码任务的融合缓存数据,其中,待处理解码任务为待优化解码节点执行的多个解码任务之一,待优化解码节点为多个解码节点之一;将待处理解码任务的融合缓存数据提供给多个解码节点中的目标解码节点,其中,目标解码节点用于根据融合缓存数据继续执行待处理解码任务。本公开还提供了一种任务处理装置、电子设备和存储介质。
技术关键词
节点
存储单元
队列
解码服务器
加速板卡
电子设备
人工智能技术
计算机程序产品
处理器通信
指令
可读存储介质
存储器
模块
芯片
系统为您推荐了相关专利信息
性能分析方法
装配设备
监控轮胎
仿真分析
仿真模型
拓扑图
绩效评估方法
绩效评估系统
项目
模型更新