工业视觉中的合成数据:实用工具还是数据陷阱?

合成图像能覆盖罕见或采集成本高的变化,但只有一组独立的真实图像才能表明它是否改善了模型。

synthetic data industrial vision real world validation

要点:合成图像适合用来覆盖那些罕见或采集成本很高的变化,但模型在生成图像上的得分,并不能说明它在生产线上的表现。只有一组独立的真实图像,才能表明合成数据是否起了作用。

渲染图像能提供什么

借助渲染场景,您可以改变相机位置、材料属性、照明、杂乱程度和罕见的缺陷情况,而不必在产线上逐一搭建每种配置。标注随图像一同生成:渲染器知道每个物体和每处缺陷的位置,因此掩膜和边界框不必手工绘制。因此,合成数据在项目早期(还没有收集到足够的真实缺陷时)以及对很少出现的情况最有用。

域差距从哪里来

真实表面对光的散射和反射方式,材料模型只能近似模拟,而且真实表面还会积上灰尘、油污和划痕。真实工件处在机械公差范围之内,真实相机还会带来噪声和模糊。一幅在人看来很逼真的渲染图,仍然可能恰好缺少模型学会依赖的那个线索,或者含有某种渲染伪影,反而被模型学了去。生成的缺陷还有第二个风险:如果它们的形状或纹理与真实失效不同,模型学到的就是错误的概念,却仍然能在合成测试图像上取得好成绩。

评估顺序的示意性流程图,共四步:合成场景、模型训练、留出的真实数据集和产线评估。
AYXWORKS 绘制的示意图,展示一种建议的评估顺序,图中标注为英文;并非针对具体现场的工程设计。

在训练数据与真实测试数据之间筑一道墙

开发模型前,将真实工厂图像分成训练集、验证集和最终保留测试集。验证集用于迭代,最终测试集不得参与训练、调参或模型选择。覆盖相关班次、供应商、表面条件和相机配置,同时避免近乎重复的图像跨集合泄漏。用保留的真实样本比较已经固定的基线与候选模型,分别报告每类缺陷的误接收和误剔除,并给出总体结果。如果反复查看测试结果来指导调参,该集合就已成为开发数据,需要另设未使用的最终测试集。合成数据的价值应由有代表性的真实证据支持,而不仅是合成基准分数提高。

供应商工具的说法(截至 2026 年 10 月)

NVIDIA 于 2026-03-16 发布了 Physical AI Data Factory Blueprint,并将其描述为一种开放的参考架构,用于统一并自动化训练数据的生成、增强和评估方式。按照该新闻稿的说法,其中一个组件 Cosmos Evaluator 会自动对生成的数据进行评分、验证和筛选。新闻稿称,该蓝图预计于四月在 GitHub 上提供。新闻稿没有给出量化的性能结果,并附有关于前瞻性陈述的声明。按合理性筛选生成的数据,是对数据的检查;它并不是对您的模型在您的产线上的测量。 公告中预计 4 月在 GitHub 发布属于当时的预测,应与当前实际发布状态分开核查。

用测量来决定是否部署

合成数据是开发过程的一种输入,而不是省略生产试验的理由。请分阶段提升负荷,并在可能的情况下让原有的检测方法并行运行。请保留模型版本以便回退,在真实硬件上确认处理时间,并规定工位遇到未见过的物体或照明条件时该怎么做。NIST 的《人工智能风险管理框架》提出了一个一般性观点:AI 系统应当在部署前进行测试,并在运行期间定期测试。

确定预算或范围之前的检查清单

  • 渲染时改变了哪些变量,以及所用渲染器和素材的版本。
  • 一组留出的真实数据,单独采集,并且从未用于训练或调参。
  • 按缺陷类别统计的误接收率和误剔除率,包括加入合成数据之前和之后。
  • 用所有训练数据中都没有出现过的供应商、批次或照明条件做压力测试。
  • 每一类缺陷的真实样例,用来与生成的缺陷对比。
  • 回退流程和漂移监控,并有指定的负责人。

本指南不能确定的内容

本指南是一份规划辅助材料。它不报告测试结果,不评价 NVIDIA 或任何其他供应商的工具,也不说明合成数据能带来多大帮助;这取决于工件、光学条件和缺陷。它不评估合规性,而且为安全决策提供依据的检测需要由具备相应资质的各方另行验证。

资料来源与进一步核实

下一步建议

请带上合格件和缺陷件的真实样本图像、您的缺陷定义、您已有的 CAD 数据以及对相机和照明方案的说明,前往机器人与自动化页面。AYXWORKS 作品集展示了这些指南背后的工程方法。后续的任何项目都通过 Eurobots/ReBots 确定范围并交付,而且从可行性和责任边界开始,而不是预设一个交钥匙安装项目。

图片来源: ayxworks — Original / rights held.