一种基于Transformer多模态算法的手绘螺旋线分类方法

本发明公开了一种基于Transformer多模态算法的手绘螺旋线分类方法，采用纸质画板及签字笔作为数据采集设备，在获取受试者手绘螺旋线圈后传入电脑中进行处理；将收集到的螺旋线图像转换为统一大小的二值图像，去除噪声；通过多模态螺旋线分类Transformer网络实现震颤特征和匝间距特征的提取；将同一图像的不同特征完成编码后，通过多模态螺旋线分类Transformer网络的分层融合策略将各模态的数据进行融合；通过跨模态的注意力机制对融合进行进一步优化；通过解码器及MLP head输出受试者绘制的螺旋线的评估分级。本发明通过提取手绘螺旋线圈的间距特征和震颤特征算法，实现对多种模态特征数据的提取。再通过融合多模态数据最终实现对不同种震颤程度的手绘螺旋线圈的精准评级。