基于多模态输入文档的处理方法、装置、设备及存储介质

本发明涉及一种基于多模态输入文档的处理方法，通过接收多模态输入文档，从中提取出图表信息，并记录图表信息的位置信息。将图表信息输入视觉语言模型，获取图表文本语言信息。根据图表文本语言信息与位置信息，将这些信息与文字信息嵌入多模态输入文档中，生成目标文本输入信息。将目标文本输入信息输入目标大语言模型，得到目标大语言模型的目标文本输出。本发明能够有效解决现有技术在处理多模态文档时的不足，实现对多模态文档的深度理解和准确总结，并生成定制化的文本输出，显著提高了复杂文档的处理效率和准确性。