摘要
本申请公开了一种基于多模态融合的医疗咨询答复生成方法、装置及设备,属于文本生成领域,所述方法为:根据用户输入的多模态数据选择多个第一智能体专家以及多个第二智能体专家;通过第一智能体专家从多模态数据中提取医疗数据特征以及数字符号特征,并对医疗数据特征以及数字符号特征进行联合编码,获取多模态特征向量;将第一智能体专家的输出以及多模态特征向量输入至对应的第二智能体专家,并按预设调用顺序调用第二智能体专家;各第二智能体专家之间按照预设调用顺序连接;若各智能体专家的输出的医学知识与数学逻辑的一致性验证通过,聚合各智能体专家的输出,生成医疗咨询答复。本申请可以解决医疗大模型生成医疗咨询答复质量低的问题。
技术关键词
多模态
DICOM图像
符号特征
生成方法
数据
语义特征
文本
缓存机制
关键词
数学
医学知识图谱
编码模块
生成装置
逻辑
注意力机制
视觉
系统为您推荐了相关专利信息
标签模型
联邦学习系统
数据标签
追溯方法
分析网络环境
数据封装方法
通信链路
诊断系统
数据传输格式
动态
作物行识别方法
特征提取网络
轻量级卷积神经网络
通道注意力机制
视觉
电子鼻系统
温湿度参数
MoS2纳米复合材料
人体呼出气
多模态传感器