面对悲剧，自动驾驶如何解决信任危机

作者:阿蒙·沙华教授，英特尔公司高级副总裁兼英特尔子公司美孚国际公司首席执行官兼首席技术官。

对于公众来说，他们希望自动驾驶汽车能够遵循比人类司机更严格的标准。就在上周，伊莲·赫尔茨贝格在美国亚利桑那州以自动驾驶模式被一辆优步汽车意外撞倒，最终在救援后死亡。在这场悲剧之后，是时候考虑感知和决策对安全的重要性了。

首先，我们目前面临的主要挑战之一是解读传感器信息。从警方发布的视频来看，尽管检测和分类物体的能力是自动车辆系统最基本的组成部分，但事实上，这也是一项非常具有挑战性的任务。然而，这种能力是当前高级驾驶辅助系统(ADAS)的核心，包括自动紧急制动(AEB)和车道保持等功能。数十亿英里足以证明ADAS的高精度传感系统正在拯救生命。同样，这项技术也是未来汽车全自动驾驶克服更大挑战所需的基本要素。

为了证明当前ADAS技术的能力和微妙性，我们在电视监视器的视频中运行Mobileye软件，播放警方提供的事故片段。尽管情况并不乐观——事故现场的许多高动态范围数据可能已经丢失，但在撞击发生前大约一秒钟，Mobileye的软件仍能清晰地检测到。下图显示了上面检测到的自行车包围盒和赫尔茨贝格女士的三张快照。检测有两个独立的来源:模式识别(生成包围盒)和“*空间”检测模块(生成水平地图，其中红色部分表示红线上方存在“路人”)。使用移动结构(技术术语是“平面+视差”)，第三个模块可以区分道路和物体。通过这种方式，可以验证检测到的物体是3D的，但是可靠性低，因此它被描述为“fcvValid: Low”，并显示在屏幕的左上角。可信度低的原因是缺乏生产车辆通常可用的信息以及图像质量差。毕竟，根据行车监督记录仪采集的视频，再次拍摄时可能会有一些未知的下采样。

这些图像来自警方发布的电视监视器上的视频剪辑。重叠图像显示移动眼？ADAS系统的响应。绿色和白色边界框是由自行车和行人检测模块输出的结果。水平地图显示了道路和障碍物之间的边界，我们称之为“*空间”。

本实验中使用的软件与目前配备ADAS的车辆使用的软件相同，并已在数十亿英里用户的里程中得到验证。

现在，随着人工智能技术如深层神经网络的发展，许多人认为高精度的物体检测系统可以很容易地开发出来，而那些计算机视觉专家十多年的经验被认为是一个很大的折扣。这导致许多新来者涌入这一领域。尽管这些新技术确实有用，但许多传统仍然不可忽视，包括识别和完成数百次极端测试、数千万英里数据集的注释，以及在几十个ADAS项目上极具挑战性的试生产验证测试。经验至关重要，尤其是在安全第一的领域。

对这一事件的第二个观察是透明度。每个人都说，“我们把安全放在最重要的位置”，但我们相信，如果我们想赢得公众的信任，我们必须更加透明。正如我去年10月在Mobileye发布责任敏感安全模型(RSS)时所说的，决策必须符合人类判断的常识。我们用数学方法表述了“危险情况”和“正确反应”等常识性概念，并建立了一个系统来用数学方法确保符合定义。

第三点是冗余。真正的传感系统需要冗余设计，并且必须依赖独立的信息源:摄像机、雷达和激光雷达。整合这些信息源有助于提高驾驶舒适性，但不利于安全。为了证明我们已经实现了真正的冗余，Mobileye开发了一个独立的、只支持摄像机的端到端系统，以及独立的激光雷达和只支持雷达的系统。

如果类似上周的事故再次发生，用户本已脆弱的信任将进一步降低，这可能导致被动监管，并最终扼杀这项重要工作。正如我在介绍对责任敏感的安全模式时所说，我坚信有必要对全自动驾驶车辆的安全核查框架进行有意义的讨论。我们邀请汽车制造商、该领域的技术公司、监管机构和其他相关方来解决这些重要问题。