带多尺度池化的transformer模块处理方法

AITNT
正文
推荐专利
带多尺度池化的transformer模块处理方法
申请号:CN202410923960
申请日期:2024-07-11
公开号:CN118821853A
公开日期:2024-10-22
类型:发明专利
摘要
本发明公开了一种带多尺度池化的transformer模块处理方法,可用于基于深度神经网络的活体检测模型中,用以在训练阶段辅助训练CNN分支,能够为CNN分支提供全局上下文信息,增强模型对图像中的长距离依赖关系的建模能力。此外,通过将多尺度池化引入至transformer模块的多头自注意力模块中,能够有效压缩特征序列的长度,减少训练模型所需要的计算资源,同时获取极具判别性的特征表示,进一步提升了模型的性能。
技术关键词
前馈神经网络 输出特征 卷积模块 活体检测模型 深度神经网络 压缩特征 注意力机制 非线性 矩阵 分支 序列 阶段 图像 关系 通道 尺寸
系统为您推荐了相关专利信息
1
一种基于深度学习的异常爆响音频检测方法
音频检测方法 频谱特征 深度神经网络 二值化阈值 轻量型
2
自主授粉机器末端与目标定位姿态误差估计的补偿方法
姿态误差 机械臂 旋转误差 混合损失函数 深度回归网络
3
一种基于自注意力编码与GSA优化分类的窃电检测方法
矩阵 分类器 时序 前馈神经网络 注意力机制
4
一种AI自救器考培系统及其识别方法
深度神经网络学习 图像识别模块 识别方法 身份识别模块 柔光灯
5
基于深度学习的全介质超表面目标光谱响应逆向设计方法
逆向设计方法 介质超表面 递归神经网络 波长 像素
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号