摘要
本发明公开了一种基于多模态对齐的学习过程专注程度判断的方法及系统,属于多模态模式识别领域。本方法包括以下步骤:获取多模态数据:获取学生在教育行为中的原始多模态数据,并对原始多模态数据进行预处理;特征提取:构建每种模态数据对应的多模态数据表征编码模型,用于对应提取表征;模型训练:表征融合后,由融合后的多模态表征以及学生的专注程度标签训练专注程度判断模型;专注程度预测:将融合后的待检测多模态表征输入到训练好的专注程度判断模型中,输出预测的学生的专注程度。本发明充分利用多模态数据的丰富信息和学习者的多样特征,提高了表征学习的准确性和可解释性,能够更好地预测学习者在学习过程中的专注程度。
技术关键词
多模态
眼动数据
双向长短期记忆网络
热力图
学生
时序特征
计算机电子设备
脑成像数据
注意力
标签
医学
VGG网络
音频编码器
语音
图像编码器
系统为您推荐了相关专利信息
生存预测方法
注意力机制
编码器
信息瓶颈理论
补丁
K近邻方法
样本
无监督聚类方法
预训练模型
解码器