摘要
本发明涉及一种基于农业大模型训练与RAG增强问答方法,属于农业大数据领域,方法包括:采集农业数据,并构建农业大模型训练数据集;构建Transformer的输入嵌入和Transformer编码器来训练基于Transformer架构的大模型;用户输入问题文本后,大模型依次执行动态词嵌入消歧、地域术语替换、实体感知位置编码,生成输入序列的增强表示,然后,Transformer编码器提取深层语义特征,分类任务直接输出预测标签,生成任务则通过解码器逐词生成答案;结合检索增强生成机制进行RAG增强问答。本发明动态词嵌入机制有效解决了农业术语在不同上下文和地域间的多义性问题,显著提升了农业语义理解的准确性。
技术关键词
问答方法
前馈神经网络
编码器
实体
基础层结构
生成答案
输出特征
注意力
解码器
术语
词嵌入向量
语义特征
生成上下文感知
生成机制
农业数据采集
序列
动态
系统为您推荐了相关专利信息
页面内容生成方法
背景图
页面访问方法
对象
语义向量
缺陷检测方法
残差模块
特征融合网络
特征提取网络
通道注意力机制