将您的屏幕变成进入虚拟世界的窗口

B站影视 韩国电影 2025-10-06 15:04 1

摘要:WindowMode是 True3DLabs 的一个演示项目,能通过普通摄像头将屏幕变成一个虚拟世界的“窗口”。用户无需任何特殊硬件(如VR/AR设备),即可通过摄像头追踪面部位置,实时渲染3D场景,从而产生一种虚拟空间就在屏幕后面的错觉。

WindowMode 是 True3DLabs 的一个演示项目,能通过普通摄像头将屏幕变成一个虚拟世界的“窗口”。用户无需任何特殊硬件(如VR/AR设备),即可通过摄像头追踪面部位置,实时渲染3D场景,从而产生一种虚拟空间就在屏幕后面的错觉。

换句话说:你在屏幕前移动头部时,场景视角也随之调整,从而营造一种沉浸式、视角动态的“窗口”效果。

核心功能

3D场景渲染:通过追踪用户面部位置,实时渲染3D场景,使用户感觉3D场景就在屏幕后方。支持多种3D内容:支持任何3D视频(如Spatials上的内容),用户只需点击播放器中的头部图标即可激活。自定义3D场景:使用.vv(voxel volume)文件格式存储3D静态场景,支持实时渲染和播放3D体积视频(.splv文件)。

技术实现

面部追踪:使用MediaPipe的FaceLandmarker系统提取用户眼睛位置,通过眼睛的视直径和摄像头的视场角(FOV)估计用户头部与摄像头的距离。投影矩阵计算:根据用户面部位置计算偏轴投影矩阵,将相机相对坐标转换为屏幕坐标,从而模拟“窗口”效果。渲染框架:使用spatial-player库进行所有渲染工作,支持3D体积视频和静态场景的实时渲染。

True3D Labs 使用了一套自有的文件格式和工具来处理 3D 场景:

静态场景文件格式:.vv (voxel volume)这是 True3D Labs 用于静态、体素化 3D 场景的文件格式。演示中渲染的 3D 场景文件是 public/target_visualization.vv。体素化视频格式:.splvspatial-player 库支持实时渲染和播放的 3D 体积视频格式。内容创建工具:spatialstudio (一个 Python 包,可通过 pip 安装)。用户可以使用此工具来创建 .splv 或 .vv 文件进行渲染。

来源:一斚一点号

相关推荐