一种基于注意力机制的财务风险预警模型的构建方法

本发明提供一种基于注意力机制的财务风险预警模型的构建方法，属于财务风险预警模型技术领域，本发明通过滑动窗口机制预处理256个时间步的财务数据，构建包含8个注意力头的多头稀疏注意力层将长序列分解为64个子序列段，采用固定窗口和随机采样的稀疏掩码降低计算复杂度，设计分层注意力结构分别处理局部和全局依赖关系，引入512维可学习位置编码增强时序表达，建立包含交叉熵损失和注意力正则化的组合损失函数，使用动态层级融合权重调节函数通过博弈机制自适应调整两层注意力权重分配，最终构建输出5类风险等级的财务风险预警模型，实现了高效实时的长时间序列财务数据分析。