基于去偏域抽象的预训练模型微调方法、装置和设备

本公开提供一种基于去偏域抽象的预训练模型微调方法、装置和设备，包括：获取下游任务数据集，下游任务数据集中包括样本训练集、样本验证集和样本测试集；基于样本训练集和预训练模型确定去偏域抽象表征，基于预设去偏提示词、去偏域抽象表征以及样本训练集确定提示学习训练集；基于提示学习训练集对预训练模型进行微调；基于提示学习验证集对预训练模型进行评估调整；基于提示学习测试集对预训练模型进行模型测试。从而结合预训练模型与下游任务相关知识域的实际分布，通过去偏的方式近似下游任务的完整目标域，以完整目标域作为提示为预训练模型提供无歧义指导，使得微调后的预训练模型与下游任务具有较强的关联性，能够有效执行相应任务处理。