联合RGB外观、骨骼姿态与音频信息的多模态视频异常检测方法及相关设备

本发明提供一种联合RGB外观、骨骼姿态与音频信息的多模态视频异常检测方法及相关设备。该方法包括：将目标视频分割为若干个视频片段；对每个视频片段进行预处理以获取每个视频片段的多模态数据，所述多模态数据包括人体骨骼轨迹、外观关键区域和声音频谱图；利用骨骼姿态子网络、RGB外观子网络和音频信息子网络分别对每个视频片段的多模态数据进行特征提取，得到每个视频片段的骨骼姿态特征、外观特征和音频特征；采用自适应多流融合策略对每个视频片段的骨骼姿态特征、外观特征和音频特征进行融合并预测每个视频片段的异常分数；若视频片段的异常分数超过设定阈值，则认为所述视频片段包含异常行为。