摘要
本申请实施例提供了一种端侧算法模型的优化方法、设备、介质和程序产品。所述方法包括:确定所述算法模型的计算图,所述计算图包括多个算子;对所述终端设备的硬件性能进行评估,确定硬件性能信息;基于所述硬件性能信息生成所述算法模型的调度空间;对所述算法模型的调度空间进行优化,确定各算子的参数信息;基于所述参数信息配置所述算法模型,生成部署在端侧的算法模型。结合要部署的终端设备的硬件性能来对算法模型进行调整,对所述算法模型的调度空间进行优化,能够充分调用终端设备的硬件进行算法计算,符合部署需求,提高处理效率。
技术关键词
硬件性能信息
算法模型
终端设备
计算机执行指令
大语言模型
计算机可执行指令
搜索算法
构建训练集
存储优化策略
配置页面
层次结构信息
训练集优化
遗传算法
参数
指令优化
关系
可读存储介质
计算机程序产品
处理器
系统为您推荐了相关专利信息
力觉传感器
手术机器人
节点处
LSTM模型
多模态特征
时间段
计算机执行指令
数据
气象
归一化植被指数
关键词提取模型
问答模型
大语言模型
文本
问答方法
语音翻译方法
翻译模型
大语言模型
语音生成模型
多模态特征