摘要
本发明公开了一种带多尺度池化的transformer模块处理方法,可用于基于深度神经网络的活体检测模型中,用以在训练阶段辅助训练CNN分支,能够为CNN分支提供全局上下文信息,增强模型对图像中的长距离依赖关系的建模能力。此外,通过将多尺度池化引入至transformer模块的多头自注意力模块中,能够有效压缩特征序列的长度,减少训练模型所需要的计算资源,同时获取极具判别性的特征表示,进一步提升了模型的性能。
技术关键词
前馈神经网络
输出特征
卷积模块
活体检测模型
深度神经网络
压缩特征
注意力机制
非线性
矩阵
分支
序列
阶段
图像
关系
通道
尺寸
系统为您推荐了相关专利信息
音频检测方法
频谱特征
深度神经网络
二值化阈值
轻量型
姿态误差
机械臂
旋转误差
混合损失函数
深度回归网络
深度神经网络学习
图像识别模块
识别方法
身份识别模块
柔光灯
逆向设计方法
介质超表面
递归神经网络
波长
像素