基于规范化表示空间提示微调的自然语言理解方法

AITNT
正文
推荐专利
基于规范化表示空间提示微调的自然语言理解方法
申请号:CN202410702273
申请日期:2024-06-02
公开号:CN118862894A
公开日期:2024-10-29
类型:发明专利
摘要
本发明公开一种基于规范化表示空间提示微调的自然语言理解方法,包括如下步骤:(1)构建数据增强模块;(2)构建掩码标记与候选答案词的表示学习;(3)构建基于[MASK]标记和答案词表示的对比学习模块(CLMA);(4)构建基于特征表示距离的监督信号(SSD);(5)构建联合学习框架;该方法通过融合对比学习框架及基于特征表示距离的监督信号,优化了提示微调模型的特征表示,提升了模型处理小样本自然语言理解任务的性能,并同时提升了识别深层语义线索的能力。
技术关键词
自然语言理解方法 预训练语言模型 答案 标签类别 标记 自然语言推理 数据 框架 模板 超参数 信号 处理器 样本 模块 语义 可读存储介质 存储器
系统为您推荐了相关专利信息
1
基于AI多模态大模型的智能对话系统及方法
智能对话方法 生物特征数据 表情管理 行业知识图谱 智能对话系统
2
一种小样本医疗图像分类方法、系统及存储介质
状态空间模型 医疗图像分类方法 样本 原型 标记特征
3
一种用于架空输电线路巡检的方法及系统
架空输电线路巡检 巡检路径规划 气流 线夹 时序
4
一种基于人工智能的HSE体系审核方法
审核方法 设备状态数据 风险预测模型 动态时间规整算法 物联网传感器
5
基于物联网的智慧用电安全监管系统
智慧用电安全监管系统 云端数据平台 热敏单元 建立预测模型 深度学习算法
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号