电子产品世界

机器人正变得更加智能、更具能力，也更加普及，这为新一轮增长奠定了基础，这一增长将在未来几十年触及半导体和软件行业的几乎每一个部分。

机器人是物理 AI 的核心。物理 AI 是边缘 AI 系统的一个广泛分支，通过人工智能和传感器与现实世界交互。这包括从类人机器人到无外观的工业机器人、机器狗、无人机，以及越来越自主的车辆。未来，机器人将与人类并肩工作，无论是在工作场所、家庭中，还是在医疗保健环境中，作为陪伴者或助手。

直到最近，工业机器人周围还设有很大的安全区域，以防止意外伤害人类。这种情况正在开始改变。更好的 AI 模型、机器学习、无线协议以及传感器融合，使机器人能够在靠近人的情况下工作。但错误仍然可能发生，就像自动驾驶车辆偶尔会误判交通状况并引发事故一样。

Cadence 验证软件产品管理高级集团总监 Matthew Graham 表示：“如果物理 AI 系统完全不受约束，事故发生的可能性是存在的。这也是我不认为我们正处于 AI 完全取代人工参与边缘的原因之一。AI 是当今价值所在，也是生产力提升的来源。但归根结底，在自动驾驶车辆、自主机器人以及自主工业系统（包括机器人、无人机等）方面，要获得所需的认证，你必须能够向评估机构——无论是 TÜV SÜD、CSA 还是 UL——证明你已经充分验证并认证该系统是安全的，而且仍然有人工签字确认。”

特斯拉的 Robotaxi 和 Waymo 的自动驾驶汽车表明，自主物理 AI 是可行的。Keysight EDA 首席安全分析师 Rajesh Velegalati 表示：“然而，无人机和机器人在自由度、失效模式和功耗预算等方面与汽车系统不同。汽车与无人机/机器人的监管成熟度也不同。汽车的监管更加明确，而机器人则不然。这需要被解决。”

工程师必须确定物理 AI 系统在“车辆—机器人—吸尘器”这一连续谱中的位置，并采用相匹配的安全标准。

英飞凌科技电源与传感系统事业部总裁 Adam White 表示：“我们已经受命在整个行业中调查并回答一个问题：‘功能安全的分区到底发生在哪里？’是否需要？如果需要，机器人或类人机器人中的哪些部分需要满足功能安全法规？只是微控制器吗？还是一直延伸到功率级？这些正是我们目前公开讨论的问题。我在亚洲看到的是更快的节奏。他们没有等待功能安全，而是构建他们能做的东西并迅速推出，以展示或证明这项技术。我同意这是显而易见的，因为如果这些机器人或类人机器人与人类有任何交互，那么你就必须具备功能安全。我们的问题在于：‘需要多少？以及在哪里需要功能安全？’这有点类似于当今的车辆。有些部件遵循功能安全，但你的收音机、座舱、速度表或显示器是否需要功能安全？”

随着机器人越来越多地与人类互动，功能安全的根本在于评估最坏情况下可能发生什么。英飞凌 ADAS 战略与营销部门、移动出行领域总监 Paula Jones 表示：“你从最坏的情况开始分析，然后根据你认为的安全阈值来开发组件和系统。过去，工厂里的机器人要么与人类隔离，要么采取极端安全措施。现在我们看到越来越多的人机交互，功能安全标准正在向机器人行业迁移，网络安全也是如此。”

汽车安全与安保标准组织（SSO）在标准化汽车微电子的防篡改安全特性方面处于领先地位。Rambus 硅安全产品高级总监 Scott Best 表示：“包括大量美国国防微电子供应商在内的所有人都在遵循他们的做法。原因多种多样，但归根结底是人身安全，因为汽车安全系统中的安全漏洞会带来直接而明显的人身伤害风险。重要的是，汽车 SSO 取得的进展可以直接转化到机器人或物理 AI 系统中。毕竟，自动驾驶汽车就是一个有轮子的机器人，而带有自主飞行专家系统的无人机就是一个会飞的机器人。”

汽车与机器人标准

在功能安全和 AI 应用方面，机器人与相邻领域之间存在大量协同与相似之处。Imagination Technologies 系统与功能安全工程专家 Andrew Johnston 表示：“你可能会遇到‘标准瘫痪’，也就是说，你该看哪个标准？它们都在讲类似但又不同的内容。机器人标准通常以事实上的功能安全标准 IEC 61508 为基础发展，但同时也存在针对机械和其他所有自主系统（包括车辆）的相邻标准。”

目前，一些标准明确排除了在高完整性功能中使用 AI。Johnston 指出：“新兴标准正试图找到一种可信的方法，将 AI 纳入安全保证案例中，无论是在设计和开发生命周期中，还是作为产品本身的技术，或两者兼有。随着机器学习相关技术的发展，以及对 ML 在某些应用中益处的理解不断加深，标准也必须随之演进。有时这有点像‘先有鸡还是先有蛋’的问题。”

对冗余、功能安全以及符合 ISO 26262 等标准的需求，正在影响物理 AI 的设计。Graham 表示：“我们的客户正在推动我们确保工具获得认证，能够提供认证流程，并让他们使用这些流程来认证自己的器件。”

无论是无人机、车辆还是机器人，物理 AI 都可能面临来自高温、低温、天气、湿度或环境毒素的严苛条件，这正是可选功能安全与可靠性交叉的地方。Synopsys 移动、汽车与消费 IP 产品管理执行总监 Hezi Saar 表示：“要么是 ASIL 用于安全，要么是 AEC-Q100 的 2 级（可在 -40°C 至 +105°C 的环境温度范围内可靠运行）。一些机器人开发者正在追求这些。有的在工厂中，有的面向市场中显而易见会立即被接受的应用，例如帮助老年人，以及从事危险工作，如清洁摩天大楼外窗。”

机器人领域的标准与全球进展示例包括：

• ISO 13482：个人护理机器人

• ISO 13849：机械机器人安全

• ISO 10218：工业机器人，包括自主移动机器人（AMR）

• ANSI/RIA R15.08：自主移动机器人

• 区域性衍生标准，如日本的 JIS B 8445 和加拿大的 CSA Z434

• IEEE 机器人与自动化学会（RAS）安全、安全防护与救援机器人技术委员会（SSRR）

新兴标准与研究包括：

• UL 4600：一个强调系统级危害评估的自主产品安全关键框架

• IEC 61508：关注电气和电子系统的功能安全，为类人机器人传感与控制系统提供参考

• BSI 8611：为公共空间中的机器人安全提供伦理指南，这对在工业环境之外运行的类人机器人至关重要

这些标准表明机器人行业正在考虑安全问题，但它们在全球范围内会被多广泛采用仍不清楚。Saar 表示：“至少在讨论标准化以及系统层面和应用层面的安全问题。我不确定实施情况如何，但作为一名消费者、作为一个人类，我更担心的是我们正在加速 AI 创新，而全球范围内的法规却尚未到位。有时教授 A、B、C 会警告说：‘你们打算怎么办？我们必须确保所有人都遵循同样的规则，而在这篇论文中，我们正在推进技术，并假设每个人都会守规矩。’”

图 1： 展示机器人创新的示意图，突出移动计算、安全特性以及各种技术规格。
来源：Synopsys

物理 AI 仿真与现实世界安全措施

对于软件定义车辆和物理 AI 系统而言，安全必须从仿真阶段一直考虑到原型阶段。Siemens EDA 汽车与军工航天混合物理与虚拟系统副总裁 David Fritz 表示：“为了让软件定义的方法论奏效，你要从一个纯虚拟的东西开始。它必须是有价值的。软件团队和硬件团队需要在数小时甚至数分钟内快速迭代。他们不断尝试各种方案，试图迭代到能够证明满足某些硬件要求的程度。这是纯虚拟的，是最低保真度，但足以通过第一个关卡。接下来我们进入更高的保真度阶段，我们不再只是建模硬件行为，而是直接建模硬件本身，在门级或信号级，同时仍然运行拟定的量产软件。混合阶段介于虚拟与物理之间。”

在这一过程的最后，是一个真正的物理实体原型。“它可能是一架飞机、一枚火箭或一辆汽车，”Fritz 说。“你之所以需要它，是因为你已经在虚拟环境中进行了数百万次仿真，在混合环境中也进行了数百万次测试，所有要求都通过了，但你仍然需要验证在真实物理载体中是否能获得相同结果，至少要验证最佳情况、最坏情况和典型情况，以确保你没有被某个仿真漏洞所误导。这就是成功完成这些项目所需的完整保真度谱系。”

英伟达将其用于自动驾驶汽车的 Halos 安全计划应用于机器人领域，其中包括仿真。英伟达 Omniverse 与仿真技术副总裁 Rev Lebaredian 表示：“安全必须贯穿整个技术栈，从最上层的软件一直到底层芯片和系统级。我们在自动驾驶和机器人领域的软硬件之间存在大量重叠，因此我们将其应用到机器人中。这是一项非常庞大的工作，涉及许多方面。功能安全有许多最佳实践、指南和防护措施，用于评估和测试这些 AI。其中很大一部分是在将系统部署到现实世界之前，在仿真中进行大量测试。这就是为什么构建与现实世界尽可能匹配的物理精确仿真器如此关键。我们可以在各种环境中对这些机器人及其编队进行数百万小时的运行测试，然后再将它们投放到真实世界，赋予它们物理形态。”

无论是在汽车还是机器人领域，物理 AI 都可以通过训练来建立环境感知能力，但仍然存在局限。Johnston 表示：“你可以用大量表面上看起来很好的数据来训练车辆控制器，比如道路、路况、交通标志和温度变化，并利用多种传感输入。但作为人类，当我们到了可以开车的年龄，我们已经在特定环境中成长，具备一定的价值观、内在的道德和伦理理解以及社会责任。这些是非常难以训练给计算机的。等你开始驾驶时，你已经在这个星球上生活了 16 或 18 年，经历过各种社会环境，学会了人类如何互动，学会了风险管理和社会责任。其中有好的，也有不好的。你如何在仅有操作或环境态势感知之上，再去训练一个机器学习模型具备这些？如果你试图建模一个人类，即便你能量化这些输入数据，它们也会广泛得多、复杂得多。这也是为什么我更倾向于使用‘机器学习’这个术语，因为很多模型并不是真正智能的。”

随着机器人走出封闭的工业环境并进入现实世界，更多类型的安全控制正在出现。英伟达机器人与边缘 AI 副总裁兼总经理 Deepu Talla 在 OktoberTech 上表示：“随着我们发明新技术，安全要求已经很高，但当我们最终达到数十亿甚至数百亿类人机器人与我们共存、协同工作时，安全要求还会更高。安全方面还有大量工作要做，但令人兴奋的是，我们不仅可以在机器人内部、机器人本体上实施安全，还可以构建类似空中交通管制的场景。每一架飞机都是自主的，或者有飞行员，但如果没有空中交通管制员，它们无法独立完成任务。”

例如，在中国，一家公司正在运营无人机配送。“他们面临的额外复杂性在于高度，以及在城市区域中使用哪些飞行路径，”White 表示。“你通过无人机订购商品，它把货物投放到指定位置，他们必须决定使用哪条飞行路径起飞，并获得当地机构的批准。这是下一个层级。”他还指出，最终车辆将能够检测道路是沙地、积雪、泥地或其他类型，并相应调整其行为。

提升物理 AI 安全性

高精度 GPS 以及超宽带（UWB）等无线协议可以帮助提升移动中物理 AI 的安全性。White 表示：“在我们自己的设施以及后端设施和测试中，内部有非常精确的 GPS 定位，随时知道机器人确切的位置。我们能够在将要建立的某种基站频谱内，以极高精度追踪所有设备。这有点像空中交通管制，我们清楚知道每个对象的去向。”

企业可以通过利用工厂或制造设施中的所有传感器来部署安全机制。“你可以看到工厂车间中每一个自主或半自主机器人，甚至类人机器人的运行情况，”Talla 表示。“无论是在机器人内部还是外部，安全方面都有大量工作需要完成。”

图 2： 讨论类人机器人未来的幻灯片，重点关注大脑功能、运动、感知和电源系统等先进技术。
来源：TSMC

汽车与物理 AI 的架构交叉

从架构角度看，汽车行业正在从遍布各处 ECU 的分布式架构，转向集中式系统，物理 AI 似乎也将遵循这一趋势。Jones 表示：“这带来了许多好处。其中一个关键优势是汽车 OEM 或分级供应商可以进行空中软件更新。他们可以缩小模块尺寸，并启用许多其他功能，包括 AI。我们在机器人领域也看到了类似的活动，那里有一个集中式计算机，同时在机器人中还有一些较小的区域，例如机械臂区域。”

图 3： 机器人开发中的区域计算示意图。
来源：Infineon

其他人也认同物理 AI 将遵循与汽车类似的趋势。Arteris 首席营销官 Michal Siwinski 表示：“你将看到物理 AI 中出现类似区域化的架构，因为归根结底，机器人和汽车有什么区别？它们都会移动。它们都需要是关键任务系统，只是移动方式不同。我们认为整个工业 4.0、物理 AI 及其演进，与自治和自主性高度相关，而这些主要是由汽车行业驱动的，因此汽车行业在这方面可能是最好的代理行业。”

此外，车辆、机器人和物理 AI 系统可以部署专为实时功能和可靠性设计、并内置安全机制的边缘 AI 处理器。Synaptics 物联网与边缘 AI 处理器业务副总裁兼总经理 John Weil 表示：“你可以在制造线上部署基于视觉的系统，或用于机器人及其他应用，在这些场景中你需要高度可靠的执行路径，但仍希望能够运行当今现代的 AI 算法或模型。锦上添花的是，还能实现高度安全性。”

对于连接到大语言模型（LLM）的物理 AI 系统，其可能连接互联网或数据中心，这也带来了自身的风险。Weil 表示：“当你引入一种不再是紧耦合嵌入式模型的模型——不再只是输入一个信号就输出一个结果，而是一个随时做出决策的模型——安全性就变得至关重要。”

中国速度

到目前为止，在机器人采用方面，中国处于领先地位。White 指出：“在机器人领域，中国已经列车出站，势不可挡。”

此外，中国汽车行业的发展趋势可能预示着物理 AI 发展的下一步。

Synaptics 高级副总裁兼首席战略官 Satish Ganesan 表示：“目前增长最快的汽车市场在亚洲，尤其是中国。中国的汽车市场比世界其他地区更具消费属性，而其他地区则面临一定的放缓。汽车消费化将出现融合，电动车和自动驾驶车辆将获得更多关注，很多事情会更快发生。这不会像过去那样被法规拖慢。将会有两个方面：车辆运行和自动驾驶将受到监管，而软件方面的监管相对较少。我确实知道，汽车公司正在使用 AI 来进行开发。”

结论

总体而言，这是物理 AI 的重要时刻，它由大语言模型和小语言模型、多模态传感器以及仿真技术的发展所推动，同时还受到劳动力短缺以及美国和欧洲等地区大规模再工业化的影响。Talla 表示：“如果将这三点结合起来，我们已经进入了机器人和物理 AI 的黄金时代，在未来 10 年的轨迹中，我们可以解决其中一些问题。即便自动化已经存在了 50 多年，几乎没有什么问题真正被解决。在过去 10 年里，即使有了深度学习、一些 Transformer 以及视觉 Transformer，今天部署的大多数 AI 仍然非常脆弱，且高度专用。我们需要迈向通用型。”

关键词：