摘要
本发明公开一种全自动混合精度模型量化调优方法,通过全精度模型调优混合精度模型,自动化混合精度量化调优的过程,减少人工干预,提高调优效率,其迭代策略,通过随机删除和恢复层来优化模型,能够逐步逼近最优配置,提高模型精度,且基于PR关键指标的自动评估和决策机制,灵活适应不同模型和校准表,具有广泛的适用性,同时,通过详细的日志记录,提供了可追溯性,便于分析和复现调优过程。
技术关键词
调优方法
深度学习模型
精度
校准
日志
转换器
格式
变量
指标
表达式
阶段
接口
决策
链路
策略
因子
机制
框架
程序