基于贝叶斯视角的预训练语言模型多属性多粒度适应文本理解方法和系统

本发明提出了一种基于贝叶斯视角的预训练语言模型多属性多粒度适应文本理解方法和系统，包括：从多个属性视角和粒度视角对数据样本进行建模；通过贝叶斯推理处理数据中的独立同分布和非独立同分布信息，生成每个视角下的后验分布并计算预测概率；利用贝叶斯神经网络对每个视角的后验分布进行优化，以生成稳健的文本表示；引入多任务学习和联合学习策略进行模型训练，减少不确定性并提高文本理解的准确性。最终，使用训练得到的预训练语言模型在情感分析、文本分类、问答系统等下游任务中进行文本理解。本发明能够有效提升文本理解任务的性能，尤其在面对数据异质性时，表现出显著的优势。