一种大语言模型的低比特量化方法及系统

本发明公开了一种大语言模型的低比特量化方法及系统，具体涉及深度学习技术领域，包括训练数据集划分步骤、数据采集步骤、数据分析步骤、综合数据分析步骤，以及预警处理步骤。本发明通过过数据分析步骤建立量化参数缩减数据分析模型、量化感知训练数据分析模型以及训练后量化数据分析模型，可以对采集的数据进行深度分析，这些分析有利于判别比特化中潜在问题，为后续的微调提供数据支撑。本发明的优点在于精确地获取和分析低比特量化的数据，为大型企业提供强有力的解决方法。