摘要
本发明涉及放射学报告领域,公开了融合疾病感知对比和跨模态对齐的放射学报告生成方法,包括以下步骤:通过视觉编码器和文本编码器分别提取医学图像的视觉特征和放射学报告的文本特征;利用疾病感知对比学习模块DACL将视觉特征与文本特征映射至统一语义空间;通过跨模态记忆对齐模块CMA利用动态更新的记忆矩阵进行自适应特征匹配;采用三阶段训练策略优化模型,包括预训练、强化学习微调及知识蒸馏。通过文本特征动态更新增量知识,专注于跨模态特征对齐任务,避免与特征表示耦合,提升对齐效率,三阶段训练策略,若学生模型性能更优则迁移权重,进一步增强模型的临床准确性与泛化能力。
技术关键词
报告生成方法
视觉特征
疾病
对齐模块
策略优化模型
文本编码器
记忆
跨模态
动态更新
阶段
蒸馏
矩阵
学生
教师
模态特征
注意力机制
语义
系统为您推荐了相关专利信息
药物重定位模型
药物重定位方法
三元组
特征提取器
重构模块
多模态对话
情绪识别方法
模态特征
时序
节点特征
交互式问答
视频分析
数据编码
文本
知识图谱查询
多模态图像数据
磁共振
多模态影像数据
软组织
多模态图像信息
无人机投弹装置
弹体
执行机构
无人飞行器
活动挂环