摘要
本申请涉及大模型技术领域,公开了一种医疗影像问答方法及计算机设备,首先获取目标多模态医疗数据,将目标多模态医疗数据输入至医疗多模态大模型中;然后通过特征提取模块对目标多模态医疗数据进行特征提取,得到图文融合特征数据,通过实体识别模块进行实体识别,得到目标医疗实体数据,通过关系抽取模块进行实体关系抽取,得到目标医疗关系数据,并利用提取到的目标医疗实体数据和目标医疗关系数据构建多模态知识图谱;最后,在接收到多模态医疗问题数据的情况下,利用模型推理模块和多模态知识图谱生成影像分析报告数据。通过以医疗多模态大模型与多模态知识图谱结合的方式,实现了高度自动化的医疗影像问答,从而提升了医疗影像问答效率。
技术关键词
多模态
医疗文本数据
医学影像数据
融合特征
实体关系抽取
预训练模型
图谱
识别模块
编码特征
问答方法
特征提取模块
图文
语义特征
计算机设备
报告
注意力