摘要
本发明涉及一种基于神经网络的XR头显视频透视方法及系统,属于图像处理技术领域,解决了现有视频透视无法实时重建高质量图像的问题。包括获取XR头显的外置双目相机实时采集的双目图像,经预处理后,通过计算视差图获取左相机深度图和右相机深度图;根据预处理后的双目图像、左相机深度图和右相机深度图,获取带颜色的点云数据;对带颜色的点云数据进行左右人眼图像投影和网格化分配,获取左人眼合成图像和右人眼合成图像,进而传入视图优化模型中,输出左人眼优化图像和右人眼优化图像;视图优化模型是改进的轻量级的条件对抗生成神经网络;渲染左人眼优化图像和右人眼优化图像并输出至XR头显的显示终端。实现了实时重建高质量图像。
技术关键词
人眼
深度图
带颜色
生成神经网络
图像投影
数据
相机标定参数
坐标系
双目相机
视频
显示终端
多层卷积神经网络
CNN网络结构
双目深度估计
全卷积神经网络
系统为您推荐了相关专利信息
光谱成像系统
高光谱图像数据
多层薄膜
图像投影
成像模块
空间定位方法
巡视器
特征点
光束法平差方法
影像
姿态识别方法
彩色图像
融合特征
物体
多层感知机