一种基于RAdam与余弦退火的BERT-TextRank文本分类方法

一种基于RAdam与余弦退火的BERT‑TextRank文本分类方法，包括6个步骤：S1数据预处理：将网络文本数据，进行清洗，分词，划分数据集；S2压缩文本：对步骤S1中获得的数据进行压缩，获取信息量大的文本内容；提高模型稳定性与收敛性：在获得S2的文本后，使用BERT模型训练，利用RAdam优化器提高模型的稳定性与收敛性；S4循环更新参数：在S3对BERT模型进行训练时，使用Lookahead优化器，循环更新参数；S5动态调整学习效率，避免陷入局部最优：在S4时，使用余弦退火学习率调度器动态调整学习率，避免陷入局部最优；S6.模型性能验证。此方法通过压缩长文本提升模型稳定性与收敛性，并动态调整学习率避免局部最优，从而增强BERT模型的文本分类性能，使分类任务表现更出色。