物理人工智能和机器人模型

AYX / 知识库

体现了 AI、NVIDIA、VLA 和决策模型。

资料核对日期: 2026-10-14

21

物理和实体人工智能

PAI-001

什么是物理人工智能,它与机器人技术有何关系?

物理人工智能是指用于在物理世界中感知、建模或行动的人工智能。嵌入式人工智能强调代理通过身体和传感器进行交互。在机器人技术中,这些想法可以将感知、任务决策和行动联系起来,但它们并不能取代对可靠机制、控制和安全工程的需求。

详细解释、示例与来源

区分描述场景的人工智能系统和控制夹具的人工智能系统。后者必须尊重时间、几何形状、接触力和错误的后果。一个有用的项目可能会学习抓取选择,同时保留传统的运动控制和独立设计的防护措施。准确定义学习在哪些方面可以改进任务,以及哪些固定限制仍然具有权威性。 “物理人工智能”是一个广泛的领域和供应商术语,而不是认证、标准接口或一般自治的证明。

参考资料

延伸阅读

PAI-004

模拟与真实的差距是多少?

模拟与真实差距是模拟环境与真实系统之间的差异,导致迁移行为失败或降级。当摩擦、接触、执行器延迟、传感器噪声或照明不同时,几何形状可能看起来正确。良好的仿真降低了开发风险;它并没有消除现实世界的验证。

详细解释、示例与来源

围绕与任务相关的属性校准模拟器,并在测试过程中改变不确定的参数。然后以适合风险评估的有限速度、负载和工作空间分阶段转移。比较模拟和真实的观察结果和故障。仅在一个摩擦值下成功的政策是部署的脆弱证据。记录模拟器、资产、策略和控制器版本,以便可以评估以后的更改,而不是默默地更改测试条件。

参考资料

延伸阅读

PAI-003

模仿学习和强化学习如何训练机器人?

模仿学习通过示范来训练行为;强化学习利用与环境交互的奖励信号来改善行为。它们可以组合起来。这两种方法都不能保证训练条件之外的可靠性能,并且收集机器人的物理经验需要仔细控制风险和成本。

详细解释、示例与来源

演示应代表预期的硬件、观点和任务变化,并具有一致的标签和时间安排。奖励必须抓住实际目标,而不鼓励走捷径,例如在损坏物体的同时完成一个动作。从简单的可衡量技能开始,并将其与传统基线进行比较。将故障恢复与成功的操作序列分开评估。保持最终的测试集和条件与开发过程中重复使用的测试集和条件不同,以便改进不仅仅是过度拟合熟悉的测试。

参考资料

延伸阅读

PAI-005

合成数据可以取代收集现实世界的机器人和视觉数据吗?

合成数据可以补充训练并将系统暴露在难以收集的条件下,但不应将其视为代表性现实世界评估的替代品。生成的场景可能会忽略重要的缺陷或引入模型学习的不切实际的模式而不是预期的任务。

详细解释、示例与来源

定义真实数据中缺少哪些变化:物体姿势、照明、背景或罕见损坏。生成有针对性的示例,并将纯真实基线与同一未触及的真实测试集上的混合数据模型进行比较。按条件检查错误,而不是接受改进的平均分数。对于安全相关或质量关键的使用,请保留从生成的资产和标签到模型版本的可追溯性。真实感图像不一定能再现传感器的实际测量过程。

参考资料

延伸阅读

22

愿景、多式联运和世界模型

VLM-002

什么是视觉语言模型(VLM)?

视觉语言模型将视觉输入与语言连接起来,允许执行诸如描述图像或回答有关图像的问题等任务。它讨论场景的能力不会自动提供准确的空间测量、完整的对象识别或安全的动作选择。输入、输出和验证任务仍然需要明确的定义。

详细解释、示例与来源

有用的应用程序包括搜索视觉记录或帮助操作员检查记录的问题。根据图像和支持数据验证重要细节,特别是小文本、模糊对象和几何关系。当相关细节被隐藏或不可读时,测试模型是否承认证据不足。对于工业测量,请使用适当的校准视觉管道,而不是将流畅的视觉描述视为计量学。

参考资料

延伸阅读

VLM-003

视觉-语言-动作模型与 VLM 或 LLM 有何不同?

视觉-语言-动作模型(VLA)将视觉和语言信息与机器人动作联系起来。 VLM 通常会根据视觉和文本生成与语言相关的输出;语言模型主要对与语言相关的序列进行操作。确切的动作表示各不相同,因此 VLA 不会自动与任意机器人兼容。

详细解释、示例与来源

OpenVLA 和 RT-2 是连接感知、指令和行动的研究示例。集成需要匹配机器人实施例、观察格式、控制频率、动作单元和校准。针对一个夹具或相机布置训练的模型可能需要进行调整。评估物理任务的完成和恢复,而不仅仅是模型是否理解书面指令。即使政策包含广泛的预训练知识,传统控制和应用安全仍然是必要的。

参考资料

延伸阅读

VLM-001

什么是视觉模型?它需要语言吗?

视觉模型从图像或相关传感器数据中提取信息。它可以在完全不使用语言的情况下对图像进行分类、定位对象、勾画区域或估计几何形状。视觉语言模型添加了与文本的连接;这对于某些任务很有用,但并不是每个检查系统都需要。

详细解释、示例与来源

在选择架构之前定义所需的输出。生产量规测量需要经过校准的数值结果;一般的场景描述模型可以提供有用的解释,但不能提供所需的测量精度。在实际照明和相机设置下将学习模型与更简单的图像处理方法进行比较。训练数据、分辨率和特定于任务的验证通常比模型是否具有对话界面或时尚名称更重要。

参考资料

延伸阅读

VLM-004

什么是世界模型?它与模拟器相同吗?

世界模型表示或预测环境的各个方面,可能包括它在某个动作后如何变化。模拟器执行具有定义的机制和接口的环境模型。学习的世界模型和基于物理的模拟可以相辅相成,但合理的预测并不能证明物理正确性。

详细解释、示例与来源

确定预测的内容:像素、潜在表示、对象状态或动作后果。视频生成器可以在接触或因果关系错误的情况下显示合理的运动。对于工程决策,根据测量值和已知约束来测试与任务相关的数量。使用学习的模型来探索可能性或仅在适当的验证边界下生成培训材料。不要假设生成令人信服的视频的模型可以取代校准的动力学模拟或安全评估。

参考资料

延伸阅读

VLM-005

JEPA 是什么?它与 Jev 相同吗?

JEPA 代表联合嵌入预测架构:一系列表示学习方法,可根据其他信息预测表示的各个部分。 I-JEPA 论文是一个图像学习示例。 Jev是一个独立的TypeSafeAI决策模型产品;相似的拼写并不意味着它们具有相同的型号或技术。

详细解释、示例与来源

JEPA 描述了一种架构方法,而不是通用聊天机器人、机器人控制器或商业平台。阅读具体的论文或实现,以确定其输入、预测目标和评估。 I-JEPA 的图像实验并未建立每个后续视频或动作模型的功能。讨论 JEPA 时,请指定特定版本;讨论 Jev 时,请参阅其开发人员文档和访问条款。这可以避免用更知名但不相关的术语替换不熟悉的产品。

参考资料

延伸阅读

VLM-006

我应该如何比较多模式和机器人模型演示?

比较相同任务、输入、硬件假设和成功标准的系统。 “多模态”仅指涉及多种信息;它没有指定能力。模型可能擅长图像描述,但在精确计数、空间推理或安全物理执行方面仍然失败。

详细解释、示例与来源

记录检查点、提示、解决方案、上下文限制、预处理和任何人工协助。包括正确反应是弃权的反面例子。对于机器人,测量任务完成情况、损坏、干预和恢复;对于文档或图像分析,衡量输出是否得到所提供证据的支持。将开发人员报告的基准与独立重现的结果分开。排行榜结果应该为候选人的选择提供信息,而不是取代对预期部署的评估。

参考资料

延伸阅读

23

Jev、Laya 和类型化决策模型

DEC-006

Laya自己的模型卡透露了哪些重要限制?

Laya 的卡片明确警告说,基础检查点并不是特定于任务的微调的可靠零样本替代品,选项预算和某些决策类型可能会失败,并且信心需要本地校准。它还报告了“action.act_probability”的问题。这些限制对于部署来说比广泛的“无幻觉”营销语言更重要。

详细解释、示例与来源

在保留的、实际不平衡的数据上测试预期的检查点。检查长选项列表、布尔决策、证据不足和语言差异。在未验证记录的缺陷是否已在确切版本中得到解决以及信号对本地数据是否有用的情况下,请勿使用“action.act_probability”作为生产执行门。项目中的基准比较是发布者生成的,而不是独立验证。将任何迁移或微调视为需要评估和回滚的新候选。

该卡的明确警告阻止将 Laya 描述为固有校准、始终正确或准备好授权危险行为。

参考资料

延伸阅读

DEC-001

Jev 是什么?它是谁开发的?

Jev 是 TypeSafeAI 的决策模型产品,由其开发人员作为“System One”方法的一部分提出,用于返回键入的决策而不是自由格式的散文。供应商通过置信信息描述分类和路由用途。这些是产品声明和记录的接口,而不是特定工作负载准确性的独立证明。

详细解释、示例与来源

将 Jev 视为有界决策问题的候选者:选择允许的路线、分配类别或提取受约束的决策。定义允许的输出并提供有代表性的证据。将其与普通规则、特定于任务的分类器和具有结构化输出的法学硕士进行比较。记录测试了哪些 API 和模型版本。这项研究检查了公共产品信息和文档索引,但没有运行该服务或复制其基准声明。

参考资料

延伸阅读

DEC-002

Jev 的类型决定与返回 JSON 的 LLM 有何不同?

Jev 被定位为专门的决策模型,而结构化输出 LLM 接口则限制了生成结果的格式。两者都可以产生模式兼容的输出,但有效的结构并不能证明所选值是正确的。它们的实际差异必须根据预期的决策任务来衡量,而不是仅从 JSON 推断出来。

详细解释、示例与来源

分开三个测试:响应是否与模式匹配、决策是否与证据匹配以及置信度是否预测正确性?包括矛盾的输入、缺失的信息和可用类别之外的案例。尽可能将确定性业务规则保留在模型之外。有效的响应(例如允许的类别)仍然可能是错误的类别。因此,应狭义地解释避免幻觉的主张,并根据任务级错误率和弃权行为进行检查。

参考资料

延伸阅读

DEC-004

Laya 是什么?谁发布的?

Laya 是一个在 Hugging Face 上 ConvaiInnovations 下发布的类型决策模型项目,具有与 NandhaKishorM/laya 相关的文档和代码。它的模型卡描述了一种基于编码器的非自回归方法,用于约束决策,而不是一般的对话助手。它不同于 Jev、JEPA 和视觉-语言-动作模型。

详细解释、示例与来源

公共材料涵盖路由、分类和决策输出,不同用途有不同的检查点。选择确切的检查点,而不仅仅是项目名称。模型卡特别重要,因为它的局限性符合更广泛的促销主张。这项研究检查了卡片和文件;它没有执行 Laya 或验证报告的基准测试结果。当地试点应该比较一个简单的基线,并包括不允许做出适当决定的示例。

参考资料

延伸阅读

DEC-003

如何访问 Jev?我可以假设它是一个开放权重模型吗?

经过检查的 Jev 材料描述了开发人员通过 TypeSafeAI 的服务和文档进行访问。他们没有建立不受限制的、可下载的开放重量版本。在设计生产依赖项或将产品描述为开源之前,请直接确认当前的 API、模型标识符、术语、数据处理和可用性。

详细解释、示例与来源

技术试验应使用单独的测试帐户或项目、非敏感样本数据和明确的成本限制。记录请求和响应合同、故障处理和速率限制行为。检查是否支持所需的区域、保留条款和服务保障。没有请求 API 凭据,也没有为此知识库执行实时 Jev 调用。文档索引可以访问,但是几个更深的页面没有呈现;这些差距并不能证明某个功能存在或不存在。

参考资料

延伸阅读

DEC-005

Laya 可以在本地运行吗?适用什么许可证?

Laya 发布了可下载的模型材料,经过检查的 Hugging Face 卡标识了 Apache-2.0 许可证。这支持评估自托管方法,但确切的检查点、运行时、依赖项和数据仍然需要它们自己的兼容性和许可证检查。项目级标签不能替代检查所使用的文件。

详细解释、示例与来源

固定模型修订版和运行时版本,保留其许可证通知并记录标记器和配置。确认该检查点的语言覆盖范围、输入限制和资源要求。在承诺延迟或成本索赔之前对目标硬件进行测试。自托管还创建了操作职责:访问控制、更新、日志、监控和恢复。不要假设在发布者环境上执行的基准测试可以预测小型本地计算机上的吞吐量。

参考资料

延伸阅读

DEC-007

Jev 和 Laya 应该如何公平比较?

将它们作为相同定义决策的候选产品进行比较,而不是作为具有普遍排名性能的可互换产品。使用相同的证据和允许的输出,同时记录 API 或检查点版本、本地硬件、输入限制和运营成本。公共供应商比较是有用的线索,但不能确定独立的赢家。

详细解释、示例与来源

使用常规案例、罕见的代价高昂的错误和真正的模糊性构建一个带标签的测试集。衡量决策质量、模式有效性、弃权、校准、负载下的延迟以及从格式错误或不可用的响应中恢复。包括规则基线和传统分类器,因此比较不需要假设新模型是必要的。将训练和调整示例与最终测试分开。选择符合验收标准的最简单的候选者,并保留足够的证据以便在更新后重新评估。

参考资料

延伸阅读

24

NVIDIA 机器人技术和 AI 堆栈

NV-001

NVIDIA 的机器人产品名称实际上指什么?

NVIDIA 的机器人生态系统跨越多个层面:GR00T 包括机器人基础模型和开发工具; Cosmos 解决了世界模型的能力; Isaac Sim 提供模拟; Isaac Lab支持机器人学习; Isaac ROS 提供加速 ROS 组件; Jetson是嵌入式计算硬件。这些是互补的类别,而不是一个机器人的竞争名称。

详细解释、示例与来源

从项目中缺失的能力开始。感知管道可能需要选定的 Isaac ROS 包,而不采用基础策略。在选择边缘硬件之前,学习实验可能需要模拟和培训基础设施。绘制从传感器到模型、规划、控制和记录的数据流。然后选择兼容的版本。购买 Jetson 或下载模型不会自动提供工作应用程序所需的数据集、集成、安全措施或验证。

参考资料

延伸阅读

NV-003

Isaac Sim 和 Isaac Lab 有什么区别?

Isaac Sim 是一个机器人模拟环境。 Isaac Lab 为机器人学习工作流程提供了一个框架,包括围绕模拟构建的培训和评估。他们扮演不同的角色:代表和运行虚拟环境与组织学习实验。两者都不能使模拟的成功等同于经过验证的真实应用程序。

详细解释、示例与来源

使用模拟来测试几何结构、传感器放置和任务交互,然后在项目实际需要策略培训或相关实验时使用学习框架。在安装依赖项之前确认支持的模拟器/框架版本配对。在购买硬件或扩展培训之前运行一个小的代表性场景。复杂的资产、传感器和并行环境可能会极大地改变内存和计算需求。保留模型的场景、配置和随机化设置,以便可以重现结果。

参考资料

延伸阅读

NV-006

我可以在 Jetson 或 Raspberry Pi 上运行整个 NVIDIA 机器人堆栈吗?

不要这样认为。边缘推理、仿真和大规模训练有不同的硬件和软件要求。 Jetson 专为嵌入式工作负载而设计,而 Isaac Sim 则拥有特定支持的 GPU 和操作系统矩阵。 Arm 处理器或支持 CUDA 的 GPU 本身并不能与每个组件建立兼容性。

详细解释、示例与来源

明确分配工作负载:机载传感器和选定的推理,在适当的情况下在受支持的工作站或服务器上进行更繁重的模拟或培训。检查 GPU 架构、图形功能、内存、存储、冷却和确切的软件版本。当前的 Isaac Sim 要求限制了支持的 aarch64 系统,并排除了一些不需要光线追踪硬件的强大 GPU。 Raspberry Pi 仍然可以充当其他机器人角色,但它不能直接替代受支持的 Isaac Sim 工作站或 Jetson 软件堆栈。

参考资料

延伸阅读

NV-007

NVIDIA 机器人模型和工具都是开源的并且可以在商业上互换吗?

不会。模型、数据集、模拟器、库和硬件具有不同的术语和依赖性。 “开放”模型公告并未在整个生态系统中建立相同的许可或支持。商业适用性需要检查确切的制品、其许可证、支持的配置和预期应用的证据。

详细解释、示例与来源

维护组件清单,其中包含版本、来源、许可证、支持的硬件、操作系统和用途。与运行时代码和模拟资产分开记录模型权重。在升级之前,比较发行说明、运行代表性测试并保留已知良好的环境。使用实际许可证文本而不是新闻文章中的摘要检查重新分发和部署条件。该知识库并不暗示对商业机器人应用的全面批准。

参考资料

延伸阅读

NV-005

Isaac ROS 是 ROS 2 的替代品吗?

不会。Isaac ROS 提供与 ROS 集成的加速机器人组件,而不是取代 ROS 2 作为更广泛的通信和软件生态系统。经过检查的 Isaac ROS 5.0 发行说明将其发布日期定为 2026 年 9 月 21 日,并描述了向 ROS 2 Lyrical 的迁移。兼容性是特定于版本的,共享 ROS 名称并不暗示兼容性。

详细解释、示例与来源

一起检查支持的操作系统、JetPack 或桌面 GPU 堆栈、驱动程序、ROS 发行版和软件包版本。可用的 ROS 驱动程序并不能确定其消息类型、图像传输或时序与加速管道相匹配。从经过测试的参考配置开始,对真实传感器流量进行基准测试并保持回滚环境。满足要求时使用普通ROS组件;当加速解决了测量到的瓶颈时,它很有用,而不是默认的架构要求。

参考资料

延伸阅读

NV-002

什么是 GR00T?哪些版本已确认而非预览?

GR00T是一个机器人学习模型和开发系列;经过检查的官方存储库发布了 N1.7 材料。 NVIDIA 还发布了一款单独命名为 Isaac GR00T 参考人形机器人。 2026 年 3 月的公告将 N2 描述为具有后续目标的预览版,因此此版本不会将该公告视为已发布的 N2 检查点的证据。

详细解释、示例与来源

区分模型发布、研究预览和硬件参考设计。在根据新闻文章中的名称进行构建之前,请检查实际的可下载版本、型号卡、支持的实施例和许可证。 2026 年 5 月发布的参考设计将合作伙伴机器人硬件与 NVIDIA 计算和软件相结合;它并不是工厂申请已通过受理的证据。记录任何演示或采购评估中使用的已确认组件版本。

发布状态具有时间敏感性;在发布或实施之前重新检查官方存储库。

参考资料

延伸阅读

NV-004

Cosmos 与 GR00T 和传统物理模拟器有何不同?

Cosmos 是 NVIDIA 的世界级型号系列和平台;当前页面描述了 Cosmos 3 的功能,涵盖生成、推理和与动作相关的建模。 GR00T 专注于机器人基础模型和开发工作流程。物理模拟是另一层。它们的输出和接口各不相同,不应仅仅因为被描述为“物理人工智能”而选择它们。

详细解释、示例与来源

确定项目是否需要生成场景、视觉推理、行动策略或物理指定环境。根据实际数据和工程限制评估相关输出。生成的场景可以扩大训练变化,同时仍然歪曲动态或罕见危险。避免将名称视为跨版本的固定的一对一分类法:产品范围不断发展。固定模型版本并解释其在管道中的实际作用,而不是对每个 Cosmos 或 GR00T 版本做出一揽子声明。

参考资料

延伸阅读

← 返回所有主题