NVIDIA Omniverse 库在 SimReady Foundation 规范和智能 NVIDIA 技能的指导下,提供了一套结构化工作流,用于将 CAD 资产转换为适用于机器人技术的仿真就绪 OpenUSD 资产。
该五步工作流演示了从 STEP 文件导入 ABB YuMi 机器人、使用参考图像和视频匹配视觉外观、配置包括关节和碰撞几何体在内的物理属性、根据 SimReady 要求进行验证,以及在 Isaac Sim 中运行拾放任务。
诸如 GPT-6 Astra 之类的前沿 AI 模型可以通过编写调用各阶段 Omniverse 工具的 Python 代码来提供协助,从而减少手动准备工作。
物理配置使用了制造商数据表和公开的 URDF 来定义关节轴、限位和质量属性,接触摩擦系数为静摩擦 0.8、动摩擦 0.6。
SimReady 验证检查了单位、几何体、材质、刚体、关节、驱动器、关节链和运行时行为,确认该资产在测试轨迹上满足验收标准。
双臂和夹爪使用彩色方块和根据参考图像建模的 Sharpie 记号笔完成了四次拾放循环,展示了无需附着关节的抓取、保持、转移和释放。
后续步骤
探索 SimReady Foundation 仓库,获取仿真就绪资产的规范和验证指南。
查看 CAD-to-SimReady 技能,获取有关 CAD 转换、材质分配和物理配置的智能指导。
尝试使用 Isaac Sim 进行机器人仿真,在经验证的环境中配置物理并测试机器人行为。
由 NVIDIA Nemotron 提供支持。AI 生成的内容可能不完整地总结信息。请核实重要信息。了解更多
为机器人仿真准备 CAD 资产不仅仅是将几何体转换为 OpenUSD:开发者必须在测试机器人行为之前配置和验证材质、碰撞几何体、关节及其他物理属性。
NVIDIA Omniverse 库在 SimReady Foundation 规范和智能 NVIDIA 技能的指导下,提供了一套结构化工作流,用于转换和验证仿真就绪(SimReady)资产。前沿 AI 模型可以通过解释参考材料并代表开发者调用 Omniverse 工具,在每个阶段为开发者提供协助,减少手动准备工作。
本文介绍了如何使用 SimReady Foundation 和 NVIDIA Omniverse 工具为仿真准备 ABB Robotics YuMi 机器人,并以 GPT-6 Astra 作为可协助该过程的前沿 AI 模型示例。该工作流涵盖五个步骤:STEP 文件转换、外观验证、物理配置、SimReady 验证,以及在 NVIDIA Isaac Sim 中使用双臂和夹爪完成最终的拾放任务。
什么是 SimReady,为什么它对仿真很重要?
SimReady 定义了为特定仿真用例准备 OpenUSD 资产的要求。开发者为其预期用途选择 SimReady 配置文件,并根据其要求验证资产。配置文件特定的检查会验证资产的结构、材质和物理属性,然后标记问题供开发者修复并重新检查。
如果缺少仿真属性,机器人模型可能看起来正确,但在仿真中仍然会失败。例如,缺少碰撞几何体可能允许物体穿过其夹爪,而不正确的关节可能阻止协调运动。质量和摩擦等仿真属性直接影响抓取是否保持稳定。
以下技术和工具支持此工作流:
OpenUSD 在通用资产表示中表示几何体、装配结构、材质和仿真属性。
SimReady Foundation 提供用于准备仿真就绪资产的规范和验证指导。
NVIDIA Omniverse 库提供开发者和代理可用于转换、检查和准备 OpenUSD 内容的功能。
NVIDIA Isaac Sim 提供用于配置物理和测试机器人行为的环境。
SimReady 机器人工作流:ABB YuMi 机器人示例
本演练使用 ABB Yumi 机器人演示五步 SimReady 工作流。此处使用 GPT-6 Astra 作为前沿 AI 模型的一个示例,它可以帮助编写 Python 代码以在每个阶段调用 NVIDIA Omniverse 库,但该工作流可应用于许多模型和机器人系统。
该示例使用了双臂和夹爪,并在工作流中进行了配置。在第 5 步中,使用立方体和一支 Sharpie 记号笔作为演示。基于摄像头的感知可以在单独的工作流中添加。
在 Isaac Sim 目录中创建一个文件夹,并将其命名为“reference”,我们将使用此 reference 文件夹来存放工作流的相关资产。
在 Isaac Sim 目录中启动 Codex 非常重要,这样代理才能找到工作流中所需的必要技能。
在此工作流示例中,我们使用了 Isaac Sim 6.1 和 Codex CLI,并以窗口模式启动了 Isaac Sim。
在活动的 Codex CLI 中使用以下示例提示来启动 Isaac Sim:
以窗口模式启动 Isaac Sim,并启用远程 Python 服务器。为此使用一个新终端。
Isaac Sim 中的远程 Python 服务器使您的代理能够通过 Python 与您正在运行的 Isaac Sim 应用程序“对话”。在继续之前,请确认连接正常。
在每个步骤中,根据您的任务在前沿 AI 代理中调整示例提示,然后查看仿真结果和验证反馈,以识别问题并改进资产。
- 从 STEP 文件导入机器人
作为此工作流的第一步,我们将从 reference 文件夹中的 STEP 文件导入机器人。
对于此示例,请在 Isaac Sim 目录内的 reference 文件夹中提供以下输入:
图 1. 使用 CAD 到 SimReady 技能进行 STEP 到 OpenUSD 转换后,导入 Isaac Sim 的 YuMi 机器人和夹爪
使用的 NVIDIA 技能:omniverse-cad-to-simready、omniverse-cad-to-usd 和 isaac-sim-remote
继续之前检查:机器人资产已导入并可供检查。任务和提供的要求已理解,缺失信息已识别。
- 匹配视觉外观
下一步是检查导入的机器人,以确认预期的材质和纹理存在并正确加载。将资产与提供的 ABB 图像和视频进行比较,以检查比例、方向和部件放置。
要求代理使用这些参考来添加或改进材质和纹理。
示例提示:
使用参考文件夹中的 ABB 图像和视频,将导入机器人的外观与物理机器人进行匹配。添加或调整材质和纹理,并报告任何视觉差异或缺失的参考信息。
图 2. 使用 Astra 准备的 YuMi 资产(左)与 ABB Robotics 参考图像(右)
假设:智能体通过调整颜色、金属响应和粗糙度来在视觉上匹配机器人的材质,同时保留 CAD 几何结构和安装变换。材质设置为视觉估计值,未进行测量材质重建或 AI 生成纹理。
继续前检查:机器人具有预期的比例、方向、部件和外观。任何缺失的材质、纹理或其他视觉差异均已记录。
- 配置物理属性
在此阶段,OpenUSD 资产包含机器人的视觉几何结构,但关节、刚体和碰撞几何结构尚未配置。请智能体配置并验证两个手臂和夹爪的物理属性。参考文件夹中的数据表将被智能体用于确保关节范围和速度限制与仿真机器人匹配。
如果制造商数据不完整,您可以要求智能体识别缺失的参数,并查阅技术手册或可用的 URDF 机器人描述以获取确切型号。在质量属性仍然不可用的情况下,按照 NVIDIA 的质量属性指南,使用文档化的密度或质量分布假设从几何结构进行估计。例如,当未给出足够上下文时,我们观察到智能体提取了该机器人的公开 URDF,并使用它来识别关节的正确轴和零配置。
示例提示:
为两个 YuMi 手臂和夹爪装配物理属性并验证物理属性。
检查关节定义、轴和限制、质量和惯性、碰撞几何结构、基座安装以及夹爪运动。
图 3. 步骤 3 期间带有碰撞几何结构和关节轴的 YuMi 物理配置
初始姿态可能有所不同。
图 4. 物理配置后的 YuMi 姿态
此工作流中的仿真假设:
关节配置:智能体检索了该机器人的公开 URDF,并使用它来识别关节轴和零配置。
各连杆质量:从 STEP 几何体积估计,并归一化到制造商指定的总量:机器人 38 kg,每个夹爪 0.28 kg。
质心和惯性:假设为均匀密度的实心部件进行计算;内部电机、齿轮箱和布线未单独建模。
接触属性:假设静摩擦为 0.8,动摩擦为 0.6,恢复系数为零。
碰撞几何结构和外观:凸碰撞形状、表面粗糙度和材质响应均为近似值。
校准:这些参数未针对物理 YuMi 测量进行校准。
继续前检查:关节围绕预期轴并在其限制范围内运动。基座安装和夹爪运动按配置运行。估计属性和任何验证失败均已记录。
- 验证 SimReady 属性
下一步是根据预期仿真任务的 SimReady 要求验证机器人的 OpenUSD 资产。请智能体运行选定的 SimReady Foundation 检查,审查发现结果,并根据需要修订资产。
SimReady 基础:YuMi 资产的单位、资产依赖关系、几何体、材质、刚体、关节、驱动和关节连接均已对照 SimReady 基础要求进行检查。
Isaac Sim 资产检查:通过 Isaac Sim 内的验证引擎,验证了缩放、方向、部件放置、夹爪安装、材质覆盖范围,并解决了纹理依赖关系。
质量和惯性:所有 21 个刚体均具有正质量和物理上可接受的惯性张量;运行时值与设定值一致。
运行时行为:沿测试轨迹测试了机械臂和夹爪的运动、接触、释放和碰撞。
这些检查验证了仿真实现。它们并未确立与真实世界机器人动力学或所有可能姿态下的碰撞安全性的一致性。
图 5. 经过视觉、物理和 SimReady 验证步骤后,Isaac Sim 中的 YuMi 资产
继续前的检查:该序列满足约定的验收标准,且所选的 SimReady 检查通过。调优更改、估计属性以及任何未解决的故障均已记录。
- 机器人仿真的最终任务
在 Isaac Sim 中运行最终验证,将视觉、物理和 SimReady 检查与拾放任务相结合。
示例 1:立方体拾放
要求智能体向测试场景中添加颜色目标和盒子,并定义目标位置和颜色元数据,使用场景元数据选择匹配的颜色目标。
示例提示:
使用双臂和夹爪拾取并放置立方体。向测试场景中添加颜色目标和盒子,并定义它们的位置以及目标的颜色元数据。
运行完整的抓取、提升、保持、转移和释放序列。使用场景元数据为每个立方体选择匹配的颜色目标。同时测试放入盒子中的放置操作。
检查缩放、方向、部件放置、材质、纹理、关节轴和限位、碰撞几何体以及夹爪行为。运行所选的 SimReady 基础验证检查。
仿真假设:
我们假设无量纲接触摩擦系数为静摩擦 0.8 和动摩擦 0.6。抓取测试在这些设置下通过,但系数并未针对物理手指-物体接触进行测量或校准。
本示例使用 45 毫米、40 克的测试立方体以及步骤 3 中描述的仿真假设。
演示的拾放结果:
完成的循环:在 122.2 秒的物理仿真中,双臂和夹爪总共完成了四个拾放循环。
任务序列:每条手臂抓取其立方体,将其提升,保持两秒,转移,然后释放到其匹配的颜色目标上。随后每条手臂再次拾取其立方体并将其放入盒子内。
接触行为:手指接触和摩擦承载立方体,仿真过程中没有使用附着关节、运动学保持或直接的立方体姿态更新。
验收标准:所有循环均通过了定义的抓取、保持、转移、释放和放置标准。
记录:MP4 和 GIF 由此仿真生成。
图 6. 使用彩色立方体和目标标记的 YuMi 拾放仿真
示例 2:使用图像衍生对象进行拾放
一个单独的演示使用了根据参考图像创建的 Sharpie 记号笔,让智能体创建一个机器人将要拾取的 3D 资产。
仿真假设:Agent 估算标记笔的尺寸为 140mm,质量为 10 克,质心位于 Sharpie 的几何中心。碰撞几何体近似为圆柱体,分别用于笔帽、笔杆和后塞。
演示结果:YuMi 的夹爪从桌面上抓起标记笔,并将其放入 Isaac Sim 中的蓝色托盘中。
图 7. YuMi 在 Isaac Sim 中拾取和放置根据参考图像建模的 Sharpie 标记笔
成功的仿真测试展示了在测试条件下的行为。结果可能因所使用的前沿 AI 模型和提示词而异。
SimReady Foundation 和 NVIDIA Omniverse 工具帮助开发者将 CAD 文件和参考材料转化为可在仿真中配置、验证和测试的资产。使用 OpenUSD、SimReady Foundation 以及 NVIDIA Omniverse 工具和技能,为您的机器人仿真任务准备资产。
YuMi 演练提供了一个使用 GPT-6 Astra 作为前沿 AI 模型的 SimReady 机器人工作流示例。要将该方法适配到其他机器人或前沿 AI 模型,请确认可以访问所需的工具和技能,提供相关参考材料,并重复资产和任务验证。结果可能因所用模型、推理工作量和提示词而异。
通过免费的物理 AI 课程学习机器人技术和数字孪生技能。
欢迎参加 2026 年 10 月 20 日至 22 日在柏林举行的 NVIDIA GTC,探索物理 AI 和机器人技术的最新发展,并与开发者、研究人员和行业领袖交流。
关于 Pomi Lee
Pomi Lee 是 NVIDIA 的产品营销经理,负责推动开发者采用 NVIDIA Omniverse。她拥有超过十年的市场营销经验,涵盖初创公司和全球组织,凭借其在营销策略和社区参与方面的专业知识,领导了创新项目并成功培育了活跃的社区,以推动产品增长。
关于 Rishabh Chadha
Rishabh Chadha 是 NVIDIA 的技术营销工程师,专注于为 NVIDIA Jetson 平台集成深度学习和机器人框架。他拥有伍斯特理工学院的机器人学硕士学位。他的兴趣主要包括深度学习、医学成像和机器人感知。
关于 Dillon Bailey
Dillon Bailey 是 NVIDIA 的物理 AI 技术营销工程师,专注于展示 OpenUSD 在物理 AI 工作流中的价值,并加速 OpenUSD 开发者的入门。Dillon 在广告、商业和动画领域的 3D 工具构建和使用方面拥有近 20 年的经验。他的教育背景是计算机科学和哲学。
