一种基于三元组多模态提示的知识蒸馏方法

AITNT
正文
推荐专利
一种基于三元组多模态提示的知识蒸馏方法
申请号:CN202510796537
申请日期:2025-06-13
公开号:CN120633798A
公开日期:2025-09-12
类型:发明专利
摘要
本申请涉及机器学习技术领域,本申请提供一种基于三元组多模态提示的知识蒸馏方法,其特征在于,包括:获取多个开源视觉数据集并构建训练集、验证集和测试集;构建用于蒸馏的教师模型,通过训练对教师模型进行两阶段提示微调;构建基于三元组提示蒸馏的学生模式,并将教师模型知识蒸馏至学生模型;将训练好的学生模型进行检索预测。本申请通过原型引导的三元组提示蒸馏机制与多损失协同优化,实现了跨模态知识的高效精确迁移,全面提升模型在少样本场景下的泛化性能与鲁棒性。
技术关键词
知识蒸馏方法 三元组 教师 多模态 学生 视觉特征 构建训练集 文本编码器 样本 图像 损失函数优化 逻辑 模板 机器学习技术 两阶段 批量 鲁棒性
系统为您推荐了相关专利信息
1
智能问答方法、装置、计算机设备和程序产品
强化学习模型 大语言模型 数据 策略 规划
2
一种基于多模态Transformer金属疲劳寿命预测方法
材料特征 多模态 融合特征 时序特征 编码器
3
一种基于深度学习的建筑结构抗震韧性优化方法及系统
建筑结构抗震 MEMS加速度计 阻尼调节装置 指数 耦合特征
4
基于生成对抗网络逆映射技术的点云动态上采样方法
点云 生成对抗网络 上采样方法 模型训练方法 动态
5
基于声学特征分析的自适应听力筛查优化方法
声学传递函数 声学特征分析 双耳音频信号 时域特征 多头注意力机制
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号