一种基于任务的模型推理方法及装置

AITNT
正文
推荐专利
一种基于任务的模型推理方法及装置
申请号:CN202411817302
申请日期:2024-12-11
公开号:CN119294530B
公开日期:2025-06-27
类型:发明专利
摘要
本发明提供一种基于任务的模型推理方法及装置,涉及人工智能技术领域。所述方法包括:获取待处理数据以及待处理数据对应的任务标识;利用任务标识,获取待处理数据对应的索引集合;利用所述任务标识,获取待处理数据对应的任务矩阵;以推理模型中的所有推理层对应的层任务矩阵,对待处理数据进行变换处理,得到所述待处理数据的推理结果。本发明中,预设索引和层任务矩阵均和任务标识相关,可确保不同的任务场景下的推理性能,利用具有预设索引的推理层的层任务矩阵对待处理数据进行处理,无需使用所有模型层处理,可有效降低不必要的计算,提升推理效率。
技术关键词
矩阵 索引 资源消耗量 性能变化参数 标识 推理方法 基准 推理装置 人工智能技术 数据获取模块 关系 文本 视频 图像 场景
系统为您推荐了相关专利信息
1
基于线性化诺顿等值的新能源电力系统短路电流计算方法
新能源场站 新能源机组 电流模型 新能源电力系统 短路电流计算方法
2
驾驶数据检索方法、装置、电子设备和可读存储介质
数据检索方法 语义向量 数据分发服务 数据标签 指令
3
一种基于显式模型预测控制的多轴运动系统无位置传感器控制方法
无位置传感器控制方法 显式模型预测控制 模型预测控制器 观测器 多轴运动系统
4
基于多层级知识聚合数据的管理调度方法、系统及设备
层级 管理调度方法 文本 聚类 语义向量
5
一种基于分层注意力机制的行人轨迹预测方法
行人轨迹预测方法 分层注意力 节点 门控循环单元 多层感知机
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号