基于双激活领域桥接和时空自注意力的预训练大模型交通流量预测方法

AITNT
正文
推荐专利
基于双激活领域桥接和时空自注意力的预训练大模型交通流量预测方法
申请号:CN202510501570
申请日期:2025-04-21
公开号:CN120260282A
公开日期:2025-07-04
类型:发明专利
摘要
本发明公开了一种基于双激活领域桥接和时空自注意力的预训练大模型交通流量预测方法,包括:设计时空特征多重嵌入模块,将时间、空间和特征嵌入的融合,构建交通流量数据的多粒度表示;设计双激活领域桥接模块,通过双路径激活机制将交通流量数据与预训练模型空间表示对齐;设计动态门控机制,通过softmax函数调整双激活分支的权重;使用LoRA策略结合部分注意力冻结方法对大语言模型进行微调;设计了预训练多粒度时空Transformer模块,使用时空自注意力机制,增强模型对交通流量数据中多粒度时空特征的建模能力;设计输出回归层,使用DADB模块结合卷积层输出最终预测结果。本发明能有效克服预训练模型与交通流量数据的技术鸿沟问题,为智慧城市智能交通系统的优化提供了科学决策支持。
技术关键词
交通流量预测方法 桥接模块 大语言模型 动态门控 注意力机制 智慧城市智能交通系统 冻结方法 数据 矩阵 双分支结构 嵌入特征 前馈神经网络 特征编码方法 参数 节点 非线性
系统为您推荐了相关专利信息
1
一种用于图像语义分割的可调节多尺度编码器增强方法
特征提取模块 图像语义分割 多尺度 编码器 索引
2
光伏功率的预测方法、装置、设备及介质
时间序列特征 注意力机制 前馈神经网络 编码器模块 解码器
3
一种基于注意力机制的轻量级遮挡船舶检测方法
船舶检测方法 卷积模块 拼接模块 多尺度特征 注意力机制
4
一种检测循环肿瘤细胞中PD-L1表达的方法
检测循环肿瘤细胞 生成网络模型 荧光标记抗体 抗上皮细胞粘附分子 多维特征数据
5
基于大语言模型和时间知识图谱的序列预测方法及装置
事件预测方法 大语言模型 逻辑 节点 关键词
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号