摘要
本发明涉及自然语言理解技术领域,公开了一种基于大语言模型的特征自适应的自然语言理解方法;将特定任务下的测试样本输入到完成训练的自然语言理解模型,输出测试样本的标签;模型的训练过程包括:将任务示例样本通过特定任务的模板组成提示前缀,将每个被模板包装的有标签样本加上相同的提示前缀后输入大语言模型中:对剩余样本集中的每个有标签样本提取通用特征,并与对应的标签进行配对,进而作为监督信号来训练调制器;带有若干任务示例的大语言模型可以充分调用其在预训练过程中学习到的知识得到蕴含丰富语义信息的通用特征,进而通过额外引入的训练好的轻量级调制器完成特定任务上的任务提炼及标签预测。
技术关键词
自然语言理解方法
大语言模型
自然语言理解模型
调制器
通用特征
标签
样本
线性支持向量机
逻辑回归模型
自然语言理解技术
模板
文本
情感类别
多层感知机
训练集
包装
语义
信号
元素
参数
系统为您推荐了相关专利信息
长短期记忆网络
语义特征
重传方法
分类网络
分类器
小型化技术
自然语言
文本数据提取
文本理解
结构化查询语言
问答匹配方法
生成技术
电力
预训练语言模型
大语言模型
油气井产量
归一化模块
序列
计算机执行指令
大语言模型