摘要
本发明涉及视频处理技术领域,具体说是一种基于大语言模型的视频理解方法及系统,包括获取视频问答示例,形成视频问答数据集,对所述视频问答数据集进行预处理,获得视频问答数据集的向量表示特征,将已有文本‑图像模型改组为视频特征提取模型,利用所述视频特征提取模型处理向量表示特征,获取视频分析结果向量特征,利用大语言模型分析视频分析结果向量特征,得到对应视频问答示例的答案,本发明通过数据预处理、模型训练以及冻结的大语言模型来进行视频理解问答,可以提高回答准确率,并节省训练算力以及数据资源。
技术关键词
视频特征提取
视频分析
视频理解方法
空间注意力网络
时序
文本
大语言模型
多模态信息
参数
图像
数据
矩阵
理解系统
视频处理程序
答案
通道
语言分析
系统为您推荐了相关专利信息
儿童自闭症
时间序列特征
多模态
分类器模型
三维卷积神经网络
负荷预测方法
多用户
负荷预测模型
变量
电力系统负荷预测技术
预案生成方法
风险预警方法
长短期记忆网络
时序特征
多模态注意力
读取等待时间
时钟
逻辑
FIFO存储单元
电平转换电路