摘要
本发明属于多模态数据融合技术领域,涉及一种基于多模态数据融合的摔倒检测方法及系统,包括:采集多模态数据并提取多模态特征;对多模态特征进行初步特征融合,得到初步融合特征;根据初步融合特征计算加权置信shapley值,根据加权置信shapley值对初步融合特征进行加权融合,得到加权融合特征;利用Transformer模型对加权融合特征进行处理,得到深度融合特征;根据深度融合特征得到分类结果;计算损失函数值,根据损失函数值更新模型参数,当损失函数值最小时,完成摔倒检测模型训练;本发明在计算Shapley值时通过引入置信度和可靠度计算,使得融合过程能够更好地处理不确定性和冲突信息,提高了结果的稳健性。
技术关键词
摔倒检测方法
融合特征
多模态数据融合
多模态特征
更新模型参数
特征提取模块
检测模型训练
LSTM模型
加速度
音频特征
索引
矩阵