摘要
本发明公开了基于细粒度知识感知的模型微调方法、设备及介质,属于人工智能技术领域,其中方法包括:对目标领域进行分析;获取基于目标领域和相关领域对应的初始视觉数据样本库和初始文本数据样本库;根据跨模态对齐处理模块对初始视觉数据样本库和初始文本数据样本库进行处理;按照预设训练任务;对处理后的视觉-文本数据样本库进行分解,输出多个粒度视觉-文本特征向量;根据多个粒度视觉-文本特征向量对初始知识感知模型进行多任务迁移学习;对第一知识感知模型进行蒸馏学习。本申请解决了现有技术中预训练模型存在的语言偏差和视觉理解难度较大,从而导致跨模态数据在目标领域任务中适应性差、学习效果不佳的技术问题。
技术关键词
文本特征向量
迁移学习模型
视觉
样本
联合损失函数
微调方法
多任务
跨模态数据
参数
学生
矩阵
表达式
平衡特征
蒸馏
人工智能技术
模块
电子设备
系统为您推荐了相关专利信息
疲劳检测方法
电信号
特征提取网络
时空融合特征
疲劳状态检测