梦晨 克雷西 发自 凹非寺摘要:它是一个从头开始重建的通用物理引擎,能够模拟各种材料和物理现象。它是一个轻量级、超快速、Python化和用户友好的机器人仿真平台。它是一个强大而快速的照片级写实渲染系统。它是一个生成式数据引擎,可将用户提示的自然语言描述转换为各种数据模式。
AI视频生成这就过时了吗?
刚刚,最先进的生成式物理引擎Genesis发布,一句话就可以生成完整精确的模拟物理世界。
一滴水滴落到一个啤酒瓶上,然后沿着瓶子表面慢慢滑落
生成结果可不仅是一个视频,其中还包含物体运动的各种参数。
接下来可以分为三个视角,同时追踪模拟水滴的运动……
对于人物动作,也可以遵循提示词精确模拟。
一个手里拿着棍子的微型悟空在桌子表面冲刺3秒钟,然后跳到空中,并在着陆时向下摆动右臂。摄像机从他的面部特写开始,然后稳步跟随角色,同时逐渐缩小。当猴子跳到空中时,在跳跃的最高点,动作会暂停几秒钟……摄像机围绕角色旋转 360 度,然后缓慢上升,然后动作继续。
这是一项涉及20多个组织,为期24个月的大规模合作研究:
学术界,有清华、北大、港大、CMU、马里兰、哥伦比亚、斯坦福、MIT……说是学术圈半壁江山都参与了也不为过。
产业界,也有英伟达、太极图形,以及MIT-IBM Watson AI Lab这样的联合实验室助阵。
OpenAI在2月初次演示Sora时,曾称它是“世界的模拟器”。
相比之下,Genesis不仅物理模拟更精确,还同时有更多能力:
它是一个从头开始重建的通用物理引擎,能够模拟各种材料和物理现象。
它是一个轻量级、超快速、Python化和用户友好的机器人仿真平台。
它是一个强大而快速的照片级写实渲染系统。
它是一个生成式数据引擎,可将用户提示的自然语言描述转换为各种数据模式。
一句话总结:Genesis是一个全面的物理模拟平台,专为通用机器人、具身AI和物理AI应用而设计。
共同一作、CMU博士生周衔详细介绍了Genesis的各种能力,迅速引起业界轰动。
其中大家格外关注的一点是生成速度。
它提供的模拟速度比现实世界快约430000倍,并且只需26秒即可在单个RTX4090上训练能转移到真实机器人的运动策略。
据周衔介绍,Genesis的物理引擎用纯Python代码开发,同时比现有的GPU加速堆栈(如英伟达Isaac Gym和开源的MJX)快10-80倍。
同时,速度的提高不会影响仿真精度。
目前,团队正在开源底层物理引擎和模拟平台,对生成式框架的访问将在不久的将来逐步推出。
不得不说,从一句话生成视频到一句话生成物理世界,2024年的进展实在是太快了。
生成4D物理世界Genesis由从头开始的通用物理引擎提供支持,将各种物理求解器及其耦合集成到统一的框架中。该核心物理引擎通过上层运行的生成Agent框架进一步增强,旨在为机器人及其他领域实现完全自动化的数据生成,包括以下模态:
物理准确且空间一致的视频
摄像机运动和参数
人类和动物角色的动作
机器人操作和运动策略,可部署到现实世界
完全交互式 3D 场景
开放世界铰接式物体生成
语音音频、面部动作和表情
角色运动
关于角色运动,除了开头展示的猴子,作者还一口气放出了三个不同风格角色的运动场景。
一位日本武士正在表演拳击。一名罗马士兵像僵尸一样向前走。
一名中国风的战士表演江南Style舞蹈。机器人策略
除了角色的运动,Genesis还可以自主提出机器人任务、设计环境、编写奖励函数,并最终自动生成机器人策略。
移动式franka机械臂将地板上的所有物品都扔进篮子里。
同时支持Sim2Real,把在模拟环境训练好的策略转移到真实硬件机器人中。
一个宇树H1-2人形机器人向前走。
四足机器狗双重后空翻
很可惜还有一个人形机器人单脚跳跃只有模拟演示,因为团队的机器人坏掉了……
宇树H1人形机器人执行单脚跳跃。
另外除了机器人,无人机编队也可以模拟,并呈现出正确的数量关系。
由24(4x6)架无人机组成的机队一起从地面起飞并一起进行翻转。
3D & 全互动场景生成一个带有客厅(包括用餐空间)、洗手间、书房和卧室的家居室内场景。
互动实体俄罗斯方块游戏。
开放世界铰接式物体生成开放世界铰接式物体的mesh资产,质量超越了人工注释,更多详细信息将随之后的论文一起公开。
软体机器人不只是各种刚性物体,Genesis针对软性的机器人也能够实现逼真的模拟。
蠕虫。
柔软的抓手操纵盒子并拿起笔帽。
面部动画和语音Genesis还能够处理面部动作和表情的生成:
同时还能向其中添加语音,并在面部表情不断变化的同时,保持口型与说话内容的匹配:
文本“Genesis是一个为通用机器人/嵌入式人工智能/物理人工智能应用而设计的物理平台。”对应的面部运动和语音,表情从中性过渡到愤怒,再到开心。目前Genesis代码已开源,可以直接pip install genesis-world安装。
开源代码发布仅几个小时,也迅速在GitHub上揽获1.6k star。
当前版本具体特性如下
可在不同的系统(Linux、MacOS、Windows)和不同的计算后端(CPU、Nvidia GPU、AMD GPU、Apple Metal)上原生运行。
统一的仿真框架中集成了各种物理求解器:刚体、MPM、SPH、FEM、PBD、稳定流体。
支持刚性和铰接体、各种类型的液体、气体现象、可变形对象、薄壳对象和颗粒材料的仿真(和耦合)
支持多种机器人:机械臂、腿式机器人、无人机、软体机器人等,并广泛支持加载不同的文件类型:MJCF (.xml)、URDF、.obj、.glb、.ply、.stl 等
支持基于原生光线追踪的渲染
Genesis旨在与可微仿真完全兼容。目前,MPM求解器和Tool求解器是可微的,并且很快将添加其他求解器的可微性(从刚体仿真开始)
Genesis包含一个基于物理且可微分的触觉传感器仿真模块,将很快集成到公开版本中(预计在 0.2.0 版本)
另外GitHub项目页面介绍,Genesis的目标是构建一个完全透明、用户友好的生态系统,来自机器人和计算机图形学的贡献者可以聚集在一起,共同创建一个高效、逼真(物理和视觉)的虚拟世界,用于机器人研究及其他领域。
此外,Genesis相关论文已进入提交阶段,将于稍后公开。
目前更多细节可参考官方文档。
GitHub:https://github.com/Genesis-Embodied-AI/Genesis
项目主页:https://genesis-embodied-ai.github.io
文档:https://genesis-world.readthedocs.io
参考链接:
[1]https://x.com/zhou_xian_/status/1869511650782658846
阅读报告全文,请访问欧米伽研究所的“未来知识库”
未来知识库是“欧米伽未来研究所”建立的在线知识库平台,收藏的资料范围包括人工智能、脑科学、互联网、超级智能,数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问进入。
截止到11月25日 ”未来知识库”精选的100部前沿科技趋势报告
Air Street Capital《2024 年人工智能现状报告》
未来今日研究所:2024 技术趋势报告 - 广义计算篇
科睿唯安中国科学院 2024 研究前沿热度指数报告
文本到图像合成:十年回顾
《以人为中心的大型语言模型(LLM)研究综述》
经合组织 2024 年数字经济展望报告加强连通性创新与信任第二版
波士顿咨询 2024 全球经济体 AI 成熟度矩阵报告
理解世界还是预测未来?世界模型的综合综述
Google Cloud CSA2024 AI 与安全状况调研报告
英国制造商组织 MakeUK2024 英国工业战略愿景报告从概念到实施
花旗银行 CitiGPS2024 自然环境可持续发展新前沿研究报告
国际原子能机构 2024 聚变关键要素报告 - 聚变能发展的共同愿景
国际可再生能源署 IRENA2024 年全球气候行动报告
Cell: 物理学和化学 、人工智能知识领域的融合
智次方 2025 中国 5G 产业全景图谱报告
未来今日研究所:2024 技术趋势报告 - 移动性,机器人与无人机篇
Deepmind:AI 加速科学创新发现的黄金时代报告
PitchBookNVCA2024 年第三季度全球风险投资监测报告
德科 2024 年未来全球劳动力报告
高工咨询 2024 年协作机器人产业发展蓝皮书
国际能源署 IEA2024 年全球能源效率报告
基因慧基因行业蓝皮书 2024 - 2025
普华永道 PwC2024 全球经济犯罪调查英国报告 - 智对风险直面挑战
中国互联网协会 2024 面向未来网络的数字孪生城市场景应用白皮书
中移智库 2024 先进感知新技术及新应用白皮书
智次方研究院 2025 中国 AIoT 产业全景图谱报告
未来今日研究所:2024 技术趋势报告 - 人工智能篇
国际电联:迈向衡量数字经济的通用框架的路线图
联合国粮食与农业组织:2024 年世界粮食安全和营养状况
大语言模型综述
李飞飞等,AI 智能体:探索多模式交互的前景综述
哈尔滨工业大学 - ChatGPT 调研报告
2024《美国核部署战略报告》最新文件
清华大学:AIGC 发展研究 3.0 发布版 b 版
OpenAI:2024 年 OpenAI o1 大模型技术报告
Verizon2024 年世界支付安全报告
皇家学会哲学学报 从复杂系统角度评估人工智能风险
复旦大学 大模型 AI 代理的兴起和潜力:综述
经合组织 OECD2024 年气候行动监测报告
Wevolver2024 年边缘人工智能现状报告 - 探索各行业边缘 AI 应用动态
2024 全球人形机器人产品数据库报告 - 人形机器人洞察研究 BTIResearch
《全球金融稳定报告》 把舵定航 不确定性、人工智能与金融稳定
瑞士洛桑联邦理工学院 《人工智能中的 - 创造力:进展与挑战》
《你所需要知道的理 - 论:人工智能、人类认知与决策》牛津大学最新 53 页报告
世界经济论坛 新兴技术时代的网络弹性导航:应对复杂挑战的协作解决方案 2024
ADL 理特咨询 2024 汽车出行未来展望报告
2024 中国硬科技创新发展白皮书 - 开辟未来产业新赛道
科学时代的大语言模型中的人工智能
Gartner2025 年重要战略技术趋势报告
CBInsights2024 年第三季度全球人工智能投融资状况报告
TrendHunter2025 年全球趋势报告 - 全行业顶级创新和变革趋势前瞻
天津大学 2024 大模型轻量化技术研究报告
欧洲海洋局 2024 导航未来报告将海洋置于更广泛的地球系统中第六版
美国安全与新兴技术中心 2024 AI 生成代码的网络安全风险研究报告
国际原子能机构 2024 年世界聚变展望报告
复旦大学 2024 大语言模型的能力边界与发展思考报告
安盛 AXA2024 年气候与生物多样性报告气候过渡计划路线图
YouGov2024 美国公众对人工智能 AI 的态度调研报告
麦肯锡中国报告:《中国与世界》完整版
麦肯锡全球研究所 2024 下一代竞技场报告 - 重塑全球经济的 18 个新兴行业领域
Project Sid,一个旨在模拟多智能体交互以研究 AI 文明的项目
德国研究与创新专家委员会 德国研究创新与科技成果报告
2024 年欧洲关键产业的科技重塑研究报告
智能体专题报告之二 - 智能体时代来临具身智能有望成为最佳载体
ActivateConsulting 2025 年顶级技术和媒体发展趋势报告
兰德 全球灾难风险评估
斯坦福李飞飞 《AI agent 综述》Agent AI 开启多模态交互新纪元
中国联通研究院 2024 中国生成式人工智能应用与实践展望白皮书中文版
普华永道 2024 第五次工业革命研究报告迈向弹性可持续和以人为本的未来
大成 Dentsons2024 年全球智慧城市与互联社区智库年度报告
TechUK2024 量子技术挑战与机遇并存构筑量子韧性的策略与实践研究报告
Emakina 将塑造 2024 年的技术趋势报告
图灵奖得主 Yann LeCun《机器如何才能达到人类智能水平?》——Yann LeCun, 附 Slides 及视频
华为:2024 鸿蒙生态应用开发白皮书 V3.0(最新版)
CASA:2023 第三代半导体产业发展报告
大型视觉语言模型中幻觉现象的综述
IEA PVPS:2024 光伏应用趋势报告(英文版)
ABI Research:82 个将会或不会在 2024 年发生的技术趋势白皮书
《美国反无人机系统未来趋势报告(2024 - 2029 年)》
《军事自主系统:未来之路》美空军
空间智能如何?牛津大学博士论文《深度具身智能体的空间推理与规划》
2024 低空经济场景白皮书 v1.0
战略与国际研究中心(CSIS)人类地月空间探索的总体状况研究报告(2024)
Artificial Intelligence Review:人工智能与物理学相遇的综述
麦肯锡:全球难题,应对能源转型的现实问题
欧米伽理论,智能科学视野下的万物理论新探索(研究论文)
Gartner 2025 年主要战略技术趋势研究报告
2024 人工智能国外大模型使用手册 + 中文大模型使用手册
详解光刻巨人 ASML 成功之奥妙 - 241015
CB Insights:未来变革者:2025 年九大科技趋势研究报告
国际电信联盟 2023 - 2024 年联合国人工智能 AI 活动报告
《人工智能能力的人类系统集成测试和评估》最新 51 页,美国防部首席数字和人工智能办公室(CDAO)
2024 瑞典皇家科学院诺贝尔化学奖官方成果介绍报告
MHP 2024 全球工业 4.0 晴雨表白皮书
世界经济论坛白皮书《AI 价值洞察:引导人工智能实现人类共同目标》
瑞典皇家科学院诺贝尔物理学奖科学背景报告资料
AI 智能体的崛起:整合人工智能、区块链技术与量子计算 (研究报告,书)
OpenAI o1 评估:AGI 的机遇和挑战(280 页)
世界知识产权组织:2024 年全球创新指数
美国白宫:国家近地天体防御策略与行动计划
上下滑动查看更多
来源:人工智能学家