一种全自动混合精度模型量化调优方法

AITNT
正文
推荐专利
一种全自动混合精度模型量化调优方法
申请号:CN202411436894
申请日期:2024-10-15
公开号:CN119539117A
公开日期:2025-02-28
类型:发明专利
摘要
本发明公开一种全自动混合精度模型量化调优方法,通过全精度模型调优混合精度模型,自动化混合精度量化调优的过程,减少人工干预,提高调优效率,其迭代策略,通过随机删除和恢复层来优化模型,能够逐步逼近最优配置,提高模型精度,且基于PR关键指标的自动评估和决策机制,灵活适应不同模型和校准表,具有广泛的适用性,同时,通过详细的日志记录,提供了可追溯性,便于分析和复现调优过程。
技术关键词
调优方法 深度学习模型 精度 校准 日志 转换器 格式 变量 指标 表达式 阶段 接口 决策 链路 策略 因子 机制 框架 程序
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号