南洋理工大学与上海人工智能实验室联合发布了开源框架PhysX-Anything,能够仅凭一张RGB图像输出包含几何、关节和物理参数的完整三维资产。它可以直接导入MuJoCo和Isaac Sim,用于机器人政策培训。
技术亮点
1. 粗细流水线:首先预测整体物理属性(质量、质心、摩擦系数),然后在组件层面细化几何形状和接头极限,避免因“视觉优先”引起的物理变形。
2. 新型压缩三维表示:将面 + 关节轴 + 物理属性编码为 8K 维潜在矢量。推理时,解码一次,速度比SOTA方法提升2.3倍。
3. 显式物理监督:向数据集添加12万组真实物理测量。训练时引入质心、惯性和碰撞盒损失,以确保模拟的一致性。
测试结果
在几何倒角和物理误差指标上,PhysX-Anything分别将误差降低了18%和27%。绝对尺度误差小于2厘米,关节运动范围误差小于5°,显著优于近期方法如ObjPhy和PhySG。在现实场景(宜家家具、厨房工具)中,导入生成素材到Isaac Sim后,机器人的抓取成功率提高了12%,训练步骤数量减少了30%。
开源与影响
该项目现已在GitHub上发布,权重、数据和评估基准也公开开放。团队计划于2026年第一季度发布第二版,支持“视频输入”以预测可移动组件的时间轨迹,支持动态场景策略学习。