摘要
本发明提供一种基于任务的模型推理方法及装置,涉及人工智能技术领域。所述方法包括:获取待处理数据以及待处理数据对应的任务标识;利用任务标识,获取待处理数据对应的索引集合;利用所述任务标识,获取待处理数据对应的任务矩阵;以推理模型中的所有推理层对应的层任务矩阵,对待处理数据进行变换处理,得到所述待处理数据的推理结果。本发明中,预设索引和层任务矩阵均和任务标识相关,可确保不同的任务场景下的推理性能,利用具有预设索引的推理层的层任务矩阵对待处理数据进行处理,无需使用所有模型层处理,可有效降低不必要的计算,提升推理效率。
技术关键词
矩阵
索引
资源消耗量
性能变化参数
标识
推理方法
基准
推理装置
人工智能技术
数据获取模块
关系
文本
视频
图像
场景
系统为您推荐了相关专利信息
新能源场站
新能源机组
电流模型
新能源电力系统
短路电流计算方法
数据检索方法
语义向量
数据分发服务
数据标签
指令
无位置传感器控制方法
显式模型预测控制
模型预测控制器
观测器
多轴运动系统
行人轨迹预测方法
分层注意力
节点
门控循环单元
多层感知机