基于大语言模型微调算法的专业问答模型的构建方法

AITNT
正文
推荐专利
基于大语言模型微调算法的专业问答模型的构建方法
申请号:CN202410783303
申请日期:2024-06-18
公开号:CN118469020A
公开日期:2024-08-09
类型:发明专利
摘要
本发明属于大语言模型技术领域,具体涉及一种基于大语言模型微调算法的专业问答模型的构建方法。该构建方法,包括如下步骤:构建特定领域专业语言问答数据集;构建专业问答模型:预训练大语言模型、载入MLA‑LoRA模块和构建专业问答模型;微调训练:结合数据集对专业问答模型进行微调训练。本发明提出了一项创新性的方法,采用大语言模型微调的策略来构建特定专业领域问答模型,基于预训练大语言模型,通过构建的特定领域专业问答数据集,来微调来构建专业知识问答模型。本发明能够适用于更广泛的专业领域。这种泛用性的提高意味着该模型不仅局限于一个特定的应用场景,而是可以灵活应用于多种不同的专业领域,从而提供更广泛的服务和应用可能性。
技术关键词
问答模型 大语言模型 专业 算法 数据 矩阵 自然语言 预训练模型 模块结构 复合结构 教科书 格式化 数值 策略 线性 场景
系统为您推荐了相关专利信息
1
基于SVM的多属性航空零件分类识别方法、介质及设备
分类识别方法 零件 航空 训练集 数据编码
2
一种极端降水的定量预测系统及方法
预测系统 定量预测方法 数据处理模块 数据采集单元 传感器模块
3
基于有窗峰值估计和相位包裹整数化的干涉光谱解调方法
光谱解调方法 光纤法珀传感器 包裹相位 高精度实时监测 光程
4
应用于纸板加工线的快速换模主动调控方法及系统
主动调控方法 订单 模具 纸板 调控系统
5
基于组合式控制器架构的线控转向系统
组合式控制器 线控转向系统 切换逻辑模块 主控制器 横摆角速度
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号