摘要
本发明公开了一种基于双激活领域桥接和时空自注意力的预训练大模型交通流量预测方法,包括:设计时空特征多重嵌入模块,将时间、空间和特征嵌入的融合,构建交通流量数据的多粒度表示;设计双激活领域桥接模块,通过双路径激活机制将交通流量数据与预训练模型空间表示对齐;设计动态门控机制,通过softmax函数调整双激活分支的权重;使用LoRA策略结合部分注意力冻结方法对大语言模型进行微调;设计了预训练多粒度时空Transformer模块,使用时空自注意力机制,增强模型对交通流量数据中多粒度时空特征的建模能力;设计输出回归层,使用DADB模块结合卷积层输出最终预测结果。本发明能有效克服预训练模型与交通流量数据的技术鸿沟问题,为智慧城市智能交通系统的优化提供了科学决策支持。
技术关键词
交通流量预测方法
桥接模块
大语言模型
动态门控
注意力机制
智慧城市智能交通系统
冻结方法
数据
矩阵
双分支结构
嵌入特征
前馈神经网络
特征编码方法
参数
节点
非线性
系统为您推荐了相关专利信息
时间序列特征
注意力机制
前馈神经网络
编码器模块
解码器
船舶检测方法
卷积模块
拼接模块
多尺度特征
注意力机制
检测循环肿瘤细胞
生成网络模型
荧光标记抗体
抗上皮细胞粘附分子
多维特征数据