摘要
本申请涉及一种深度学习模型量化评估方法、装置及存储介质,该方法通过预设的量化策略与模型参数信息的映射关系,自动确定目标量化策略,无需人工手动调试参数,并且,基于配置文件配置的量化工具链对优化后模型进行模型量化,得到部署包,部署包中包含量化模型与测试样本,可直接在端侧设备上获取推理指标,并与原始模型指标对比,形成客观量化评估,该方法从模型结构优化、策略生成、工具链配置到端侧部署与评估,形成标准化闭环流程,减少各环节衔接的人工干预,突破了现有方法对人工经验的依赖,可自动化的实现模型量化评估,满足深度学习模型的模型量化需求。
技术关键词
深度学习模型
量化评估方法
指标
强化学习策略
生成配置文件
样本
数据
关系
多平台
交互式界面
参数
可视化界面
节点
评估装置
模块
可读存储介质
闭环
重构
系统为您推荐了相关专利信息
分类分级方法
训练深度学习模型
预训练语言模型
数据安全技术
数据输入模块
贝叶斯概率模型
评价方法
加权有向图
序列
蒙特卡罗方法