端侧算法模型的优化方法、设备、介质和程序产品

AITNT
正文
推荐专利
端侧算法模型的优化方法、设备、介质和程序产品
申请号:CN202410977900
申请日期:2024-07-19
公开号:CN118502926B
公开日期:2024-12-24
类型:发明专利
摘要
本申请实施例提供了一种端侧算法模型的优化方法、设备、介质和程序产品。所述方法包括:确定所述算法模型的计算图,所述计算图包括多个算子;对所述终端设备的硬件性能进行评估,确定硬件性能信息;基于所述硬件性能信息生成所述算法模型的调度空间;对所述算法模型的调度空间进行优化,确定各算子的参数信息;基于所述参数信息配置所述算法模型,生成部署在端侧的算法模型。结合要部署的终端设备的硬件性能来对算法模型进行调整,对所述算法模型的调度空间进行优化,能够充分调用终端设备的硬件进行算法计算,符合部署需求,提高处理效率。
技术关键词
硬件性能信息 算法模型 终端设备 计算机执行指令 大语言模型 计算机可执行指令 搜索算法 构建训练集 存储优化策略 配置页面 层次结构信息 训练集优化 遗传算法 参数 指令优化 关系 可读存储介质 计算机程序产品 处理器
系统为您推荐了相关专利信息
1
基于多模态融合的手术操作引导方法、系统及存储介质
力觉传感器 手术机器人 节点处 LSTM模型 多模态特征
2
森林火灾蔓延预测方法、装置、设备以及存储介质
时间段 计算机执行指令 数据 气象 归一化植被指数
3
基于场景自适应的智能家居系统控制方法及装置
环境感知信息 模式 终端设备 居家 场景
4
基于大语言模型的知识增强问答方法及电子设备
关键词提取模型 问答模型 大语言模型 文本 问答方法
5
语音翻译方法、装置、设备及产品
语音翻译方法 翻译模型 大语言模型 语音生成模型 多模态特征
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号