基于大模型高效微调的审计整改意见生成方法和系统

本发明涉及审计技术领域，提供一种基于大模型高效微调的审计整改意见生成系统和方法，所述系统包括：语料管理模块、模型训练模块和整改意见生成模块，语料管理模块用于存储和管理审计语料库；模型训练模块包括：预训练子模块用于构建预训练模型并进行自监督预训练；微调子模块用于进行有监督高效微调；噪声生成子模块用于基于审计语料库和训练过程中生成的样本生成噪声增强训练数据库；噪声优化训练子模块用于根据审计语料库和噪声增强训练数据库进行优化训练；整改意见生成模块用于将待整改审计底稿输入审计大模型生成对应的审计整改意见，能够确保模型在面对噪声时依然能生成稳定、一致且有针对性的审计整改意见，适用于复杂多变的审计场景。