摘要
本公开关于一种图生视频模型生成方法、视频生成方法及装置,该图生视频模型生成方法包括:输入样本图像和样本文本描述信息至预设文生视频模型;基于空间模块对样本图像和样本文本描述信息进行空间特征提取处理,得到第一样本特征处理结果;基于时序自注意力模块对第一样本特征处理结果进行处理,得到第二样本特征处理结果;以及基于运动适配器模块对第一样本特征处理结果进行运动信息控制,得到第三样本特征处理结果;根据第二样本特征处理结果和第三样本特征处理结果生成预测视频数据;根据预设视频数据和样本视频数据更新空间模块和运动适配器模块的参数,得到图生视频模型。本公开能够控制生成视频的运动信息,且降低对系统资源的消耗。
技术关键词
适配器
样本
注意力
空间模块
模型生成方法
视频生成方法
空间特征提取
关系建模
噪声图像
输出特征
文本
运动
数据
局部图像特征
矩阵
时序特征
系统为您推荐了相关专利信息
关键点
筛查方法
微光
估计人体姿态
图像采集模块
天气预报信息
LSTM神经网络
风电功率预测方法
风电功率预测装置
样本