摘要
本发明公开了一种用于多模态决策模型的输入重排与缓存复用方法,包括:将文本输入序列置于图像输入序列之前进行序列拼接,生成文本优先的拼接后输入序列;在初始推理时,利用多层Transformer编码器计算并缓存与文本输入序列对应的文本Key‑Value向量至静态缓存区;在后续推理时,对新输入的当前图像帧执行帧间语义一致性检测,并根据检测结果对图像部分的Key‑Value向量执行按需或局部的更新;将缓存的文本Key‑Value向量与更新后的图像Key‑Value向量进行拼接组装,以完成最终决策。本发明有效避免了对不变指令的冗余计算,实现了缓存的精细化、智能化复用,提升了多模态决策模型在动态任务中的推理速度与吞吐率。
技术关键词
文本
注意力
序列
图像
复用方法
重构
一致性检测
动态更新
决策
编码器
语义
多模态
生成代表
矩阵
信号
滑动窗口
参数
冗余
机制
系统为您推荐了相关专利信息
工业互联网
无线输电装置
机器人控制模块
监测模块
数据采集模块
故障预测模型
多源运行数据
图像特征数据
数控机床
模态特征