一种完全端到端的多模态对话情感识别方法及系统

本发明公开了一种完全端到端的多模态对话情感识别方法及系统。该方法包括步骤：以话语为单位对视频文件进行话语分割，得到多个子视频；分别从每个子视频提取每个子视频的视频模态时序特征、音频模态时序特征和文本模态时序特征；对每个子视频的视频模态时序特征、音频模态时序特征和文本模态时序特征进行跨模态融合；分别将目标子视频的话语与自我历史话语和他人历史话语进行时序建模，最后将两者进行融合，作为最终的时序建模特征输出和后续的线性分类器输入。本发明充分利用了多模态的特征，并考虑了说话人自身的情感变化以及说话人之间的情感迁移，大大提升了情感识别的正确率和鲁棒性。