一种NPU领域自适应精度调整的方法

AITNT
正文
推荐专利
一种NPU领域自适应精度调整的方法
申请号:CN202510498856
申请日期:2025-04-21
公开号:CN120315892A
公开日期:2025-07-15
类型:发明专利
摘要
本发明公开了一种NPU领域自适应精度调整的方法。本发明中,通过混合精度冲突消解机制,实现了深度学习推理任务中精度与性能的全局最优平衡。传统方法在调整计算精度时,往往仅基于局部算子特性进行独立决策,导致串联依赖的算子组因误差累积引发整体精度崩塌。本方法通过量化感知模型构建误差传播链,动态预测不同精度组合对任务输出的影响路径,并采用关键路径优先算法对冲突算子组实施差异化精度分配。在目标检测任务中,分类头等关键路径强制保留高精度计算,而背景过滤层则降为低精度模式,该机制从根本上解决了传统方法中局部优化导致的全局次优问题,确保高价值算子的计算可靠性。
技术关键词
接口模块 精度 多通道采样技术 量化误差 动态 高频量化噪声 策略 分时复用技术 矢量量化技术 轻量级监控 稀疏编码器 性能分析器 浮点操作数 线性规划模型 滑动窗口机制 资源分配 补偿滤波器
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号