基于多模态工业大模型的问答方法及装置

本发明提供一种基于多模态工业大模型的问答方法及装置，该方法包括：从工业环境中收集多种模态的数据，使用各种模态对应的特征提取算法进行数据特征提取；使用对齐算法将各种模态的特征向量对齐，将各种模态对齐后的特征向量进行拼接，根据拼接后得到的综合特征向量构建知识库；对用户至少一种模态的问题输入进行特征提取得到问题输入的特征向量，将问题输入的特征向量对齐后进行拼接，得到查询特征向量；计算查询特征向量与知识库中的综合特征向量之间的相似度，根据相似度从知识库中查询与查询特征向量相关的综合特征向量，使用LLM根据查询的综合特征向量生成问题输入的答案。本发明实现基于多模态工业大模型的问答。