一种针对非均匀分布数据的高精度量化方法

本发明公开了一种针对非均匀分布数据的高精度量化方法，致力于解决传统均匀量化算法在处理复杂数据分布时面临的重建误差显著增大和码本资源浪费现象。本方案首先利用动态规划算法对数据进行局部均匀化处理，通过最小化加权范围平方和实现最优分段；继而引入粒子群优化算法对量化区间端点进行迭代调优，以均方误差MSE最小化为目标构建高效码本。实验结果表明，该方法在128维和420维数据集上的量化误差较传统方法分别降低93.52%和98.05%，同时保持了硬件兼容性，适用于边缘计算节点、AI芯片等对压缩效率与实时性要求严苛的场景。