摘要
本发明提供一种基于课堂视频的AI多维教学行为分析方法及系统,涉及图像处理技术领域,包括:获取课堂教学视频,提取视频帧和音频帧进行自适应分段,进行图像超分辨率重建,自适应降噪得到标准课堂教学视频;添加至目标检测模型和单目标跟踪模型中进行目标识别,得到目标边界框,进行跟踪,得到时空行为轨迹,提取三维关键点坐标,得到姿态特征信息,对音轨进行说话人分离,进行学习得到语音特征向量,建模视线运动,得到注视点分布信息;基于异构图神经网络构建教学行为分析图,进行时序迭代更新,确定内在关联,生成时序语义表征,构建多层条件生成式对抗网络并生成最优教学模式,进行对比,微观解构,得到教学行为分析报告。
技术关键词
条件生成式对抗网络
视频
姿态特征
图像超分辨率重建
注视点
三维卷积神经网络
教学
节点
门控循环单元网络
音频
关键点
语音
注意力
深度卷积神经网络
教师
特征金字塔
跟踪特征
骨架模型
推理算法