斯坦福&谷歌DGMarbles:单目视频新视角合成用高斯球体

B站影视 2025-02-08 10:06 2

摘要:以下内容来自小六的机器人AI学习圈(6年积累,全国最大的机器人SLAM交流社区,为SLAM行业从业者提供从入门、学习、交流、求职、线下链接、合作、咨询、答疑等一系列的服务)知识星球每日更新内容

以下内容来自小六的机器人AI学习圈(6年积累,全国最大的机器人SLAM交流社区,为SLAM行业从业者提供从入门、学习、交流、求职、线下链接、合作、咨询、答疑等一系列的服务)知识星球每日更新内容

【Dynamic Gaussian Marbles for Novel View Synthesis of Casual Monocular Videos】

文章链接:[2406.18717] Dynamic Gaussian Marbles for Novel Vi...

高斯泼溅技术已经成为新视角合成的一种流行表示,在效率、光度质量和组合可操作性方面表现出明显的优势。随着它的成功,许多工作将高斯扩展到4D,表明动态高斯在保持这些好处的同时,也能跟踪场景几何,远远优于替代表示。然而,这些方法假设密集的多视角视频作为监督,限制了它们的使用,以控制捕获设置。在这项工作中,我们感兴趣的是将高斯场景表示的能力扩展到随意捕获的单目视频中。我们展示了,现有的4D高斯方法在这种设置中显著失败,因为单目设置是欠约束的。基于这一发现,我们提出了Dynamic Gaussian Marbles,由三个核心修改组成,这些修改针对单目设置的困难。首先,DGM使用各向同性高斯'球体',减少每个高斯的自由度,并约束优化集中在局部形状上的运动和外观。其次,DGM采用分层分治学习策略,有效地引导优化向具有全局一致运动的解方向进行。最后,DGMarbles在优化中加入了图像级和几何级的先验,包括利用最近点跟踪进展的跟踪损失。通过约束这些方式的优化,DGMarbles学习高斯轨迹,从而实现新颖的视图渲染,并准确地捕获场景元素的3D运动。我们评估了(单目) Nvidia动态场场景和Dycheck iPhone数据集,结果表明DGMarbles在质量上显著优于其他高斯基线,与非高斯表示相当,同时保持了高斯的效率、组合性、可编辑性和跟踪优势。

「小六的机器人AI圈」

为机器人AI行业从业者提供从入门、学习、交流、求职、线下链接、合作、创业、行业内幕、咨询、答疑等一系列的服务。快人一步,步步领先!已沉淀6年,星球内部资料包括秘制视频课程、独家大咖采访及经验、项目对接、星主独家思考、同城线下交流会、求职招聘&笔面试题、学习打卡挑战、小组学习、最新前沿论文分享等等...

限时优惠立减 30元加入!送上千页独家答疑电子书!加入3天内不满意无条件退款。付款后务必联系客服领取权益~

三维空间扫描仪化身机器人感知定位利器!用于机器人自主定位导航、实景三维重建!扫描仪+机器人,实时定位建图超简单!隧道低纹理大摆锤,暴力SLAM!暴力升级!暗黑隧道极限测试SLAM!效果哇塞!3D高斯泼溅来实景重建公园!全面启动!全国线下试用报名!MetaCam EDU 产品功能及细节详细介绍MetaCam EDU 实机展示和操作基于MetaCam EDU的二次开发流程及说明SLAM挑战:上下天桥绕一圈、定位建图准确完美回环无漂移SLAM挑战:多楼层、720°旋转楼梯、狭窄玻璃白墙过道三维空间扫描仪,轻松重建小树林空间定位建图挑战:长走廊、白墙、玻璃、反光等,会成功吗三维空间扫描仪,轻松重建小树林如何高效率重建古建筑?SLAM挑战:有光无光切换,自由穿梭小黑屋!SLAM暴力测试:弱光暗光、长走廊、动态场景、天旋地转如何快速让机器人具备SLAM能力?扫描仪+转换底座应用介绍3天爆改机器狗!

来源:计算机视觉life

相关推荐