摘要
本说明书实施例公开了一种用于训练学生图文对比模型的方法、装置、介质及电子设备,将无标签的第一图像数据输入已训练的教师图文对比模型,获得所述第一图像数据对应的第一输出结果;将所述第一图像数据与对应的可训练的第一图像提示词输入与所述教师图文对比模型对应的学生图文对比模型中的图像编码器,获得其输出的目标图像特征;将所述目标图像特征与所述已训练的教师图文对比模型在其训练过程中预存储的文本特征相乘,获得所述第一图像数据对应的第二输出结果;使得所述学生图文对比模型根据所述第一输出结果及所述第二输出结果进行知识蒸馏,获得已训练的学生图文对比模型。
技术关键词
图文
图像编码器
学生
教师
数据
标签
蒸馏
文本编码器
模型训练模块
电子设备
级联
计算机程序产品
处理器
存储器
介质
指令