摘要
一种轻量化白盒Transformer的可逆自解释性语义分割网络的构建方法,属于人工智能技术领域。首先,利用特征压缩和稀疏化理论推导得到一个核心目标函数。其次,对核心目标函数进行推理,得到正向轻量化白盒Transformer模块,包含白盒注意力结构和稀疏优化过程。再次,利用欧拉离散化方法求解核心目标函数的常微分方程,得到逆向轻量化白盒Transformer模块。最后,利用维度和数量均相同的EWTBlock模块、EWTBlock‑1模块,分别作为轻量化白盒Transformer的可逆自解释性语义分割网络的编码器和解码器,输出目标的语义分割。本发明能够解决传统网络结构和模块不具备可解释性以及Transformer参数量大,计算复杂等问题,能够实现全局可解释性建模和网络轻量化设计。
技术关键词
语义分割网络
标记特征
解码器
稀疏化理论
多层感知机层
注意力
投影特征
模块
核心
离散化方法
白盒
编码器
约束特征
稀疏特征
梯度下降法
人工智能技术
符号
系统为您推荐了相关专利信息
IMU传感器
电子手写笔
时域特征
惯性传感器
频域特征提取
交叉注意力机制
编码器参数
客户端
训练集
更新模型参数
分布式跟踪系统
采样方法
存储设备
重构
变分自动编码器
地表覆盖物
特征融合网络
特征提取网络
边缘检测
融合特征