摘要
本发明提供了一种基于本地知识库的大模型LLaMA3微调知识问答对话系统,属于知识问答对话技术领域,包括:LLaMA3大模型参数获取模块,用于获取LLaMA3大模型参数;低秩分解技术构建模型建立模块,用于建立低秩分解技术构建模型;模型训练模块,用于训练所述低秩分解技术构建模型;本地知识库构建模块,用于构建本地知识库;训练模型微调模块,用于微调训练模型;模型评估模块,用于评估模型;模型部署模块,用于部署模型。本发明所提供的设备可以根据根据大模型基模,采集本地知识库,构造大模型微调,通过本地知识库对模型进行训练、测试和评估,实现本地知识库的精准问答文本的生成,从而可以降低大模型复杂的高成本的模型预训练,快速获得较好的模型结果。
技术关键词
对话系统
模型训练模块
神经网络模型
序列
正确率
人工智能平台
强化学习框架
数据
问答知识库
参数
模型预训练
预训练模型
文本
人类
注意力机制
多任务
适配器
基础
样本
系统为您推荐了相关专利信息
打击方法
坐标系
输入神经网络模型
验证机制
无人机机体