医学视觉语言大模型的鲁棒蒸馏方法、系统及介质

AITNT
正文
推荐专利
医学视觉语言大模型的鲁棒蒸馏方法、系统及介质
申请号:CN202511097202
申请日期:2025-08-06
公开号:CN120689684A
公开日期:2025-09-23
类型:发明专利
摘要
本发明的揭示一种医学视觉语言大模型的鲁棒蒸馏方法、系统及介质,涉及计算机技术领域,包括步骤:S1:建立图像分类训练数据集,选取教师模型和随机初始化轻量级学生模型;S2:基于教师模型梯度构建教师模型和学生模型之间的梯度校准损失;S3:基于样本和类别层面构建教师模型和学生模型之间的动态梯度对齐损失;S4:基于中间扰动样本构建教师模型和学生模型之间的层级扰动特征对齐损失;S5:基于双层级加权梯度对齐损失、层级扰动特征对齐损失、干净样本交叉熵损失、对抗样本交叉熵损失和标准知识蒸馏损失微调图像分类模型,有益效果:通过多目标联合优化机制,将精度保持与鲁棒性增强两个原本冲突的目标解耦并协同实现,提升蒸馏鲁棒准确率。
技术关键词
图像编码器 蒸馏方法 教师 图像分类模型 样本 学生 医学 层级 视觉特征 文本编码器 蒸馏系统 定义 数据 过渡策略 参数 标签
系统为您推荐了相关专利信息
1
一种轨道电机的堵转测试方法及系统
随机森林模型 测试方法 节点 轨道 曲面
2
一种木材密度检测方法、系统、计算机设备及存储介质
XGBoost模型 密度检测方法 太赫兹时域光谱系统 样本 消除技术
3
一种电驱动系统母线电容的在线监测与预警方法
组合预测模型 电驱动系统 预警方法 序列 电容老化
4
交通公共显示屏内容健康度智能审核方法及系统
智能审核系统 交通 轮廓特征 车辆 智能审核方法
5
基于文档主题感知的教师反思文本多维度评估方法和系统
多维度评估方法 主题 教师 文本 数据嵌入
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号