417
无人驾驶汽车可能是有史以来最复杂的，因此也是最有野心的电子工程项目，它比飞机或航天器的自动驾驶功能复杂得多。著名计算机科学家Michael I. Jordan写道：“Specifically, in its use of massive amounts of data and adaptive statistical modeling to inform fine-grained decisions, it will be vastly more complex than current (systems).”无人驾驶汽车的概念很吸引人，但现在真的可行吗？
根本的挑战在于，今天的自动驾驶系统是一个预先编程的自动控制系统，而无人驾驶汽车则被视为是一个学习系统，将根据以往的经验来应对各种情况。自动驾驶系统声称完全没有智能，而无人驾驶汽车则试图模拟人类智能。
那么，是什么驱动着无人驾驶汽车？深度学习（DL），机器学习（ML）的一个子集。虽然AI是被赋予了模仿人类智能的机器的总称，但ML是AI的一个应用或子集，它允许机器从数据中学习，并在没有明确编程的情况下生成反应。ML可以是“有监督的”，即需要人类输入初始数据，然后告诉系统一些预期的输出；也可以是“无监督的”，即机器从数据本身学习，在没有预期输出的情况下得出结论。后者是DL。而DL是SAE所定义的L5自动驾驶的核心技术，是AV所需要的水平。
在一辆AV中，DL算法执行以下内容：在地图上定位车辆，根据多个传感器产生的数据流的“融合”来理解场景，并计算车辆的最佳速度，所有这些都是实时的。实现这种水平的智能是最复杂的，也是最具挑战性的。
复杂是有代价的，它会滋生故障模式。其中一些模式可能被归类为“已知的未知（known unknowns）”。例如，雷达干扰的问题。目前，许多新车都配备了ADAS，即基于雷达芯片的ADAS系统，该系统可感知雨或雾等道路危险。随着自动驾驶的普及，多个雷达在附近运行是不可避免的。在一个充斥着来自多个来源的粒子碰撞的环境中，每个雷达的性能将随着干扰水平的上升而下降。另一个已知的，但尚未解决的问题是GPS干扰。GPS是无人驾驶汽车导航的基础，但信号很容易被破坏，要么是被恶意破坏，要么是被附近的GPS干扰器意外破坏，卡车司机经常使用这些干扰器来逃避收费。
最大的“已知的未知”可能涉及训练ML算法来处理大量的数据。例如，AV的学习系统必须接受训练，通过显示成千上万张骑自行车的照片来识别骑自行车的人。数据规模越大，系统就越有能力处理“边缘案例”，即可能只在极少数情况下或极端条件下发生的情况。但多少数据才算足够？Tesla正在不断更新其DL模型，处理边缘案例。问题是，我们不知道有多少这样的边缘案例存在。
故障模式中的“已知的未知”才是更耐人寻味的，或许也是更阴险的：它们都与实现DL机器的复杂性有关。
当我们增加机器的复杂性时，可能会有惊喜等着我们。几十年前，图灵就核反应堆中的裂变堆做了一个相关的比喻。他指出，在某个“临界”尺寸以下，一切都处于休眠状态，但超过这个临界尺寸，火花就开始飞溅。也许，巨大复杂的机器也是如此。
我们所熟悉的所有机器都是“亚临界”的。事实上，它们的可预测性也很无聊。但是，复杂性可能会使未来的机器进入“超临界”状态，在这种状态下，它们的输出尽管看起来并非不合理，但可能是出乎意料的。图灵认为，超过一定的复杂程度，就会出现质的区别，所以超临界机器将与我们习惯指挥的简单机器完全不同。
UCLA的教授、图灵奖得主Judea Pearl对DL中透明度问题带来的影响感到担忧。他说：“我发现许多用户说，它‘运行得很好，但我们不知道为什么’。一旦你放在大数据上，DL有它自己的动力。它自己进行修复和优化，而且它在大多数时候会给你正确的结果。但当它不这样做的时候，你都不知道什么地方出错了，应该如何解决。你不知道是程序出了问题，还是方法出了问题，还是因为环境发生了变化。”
你不知道，因为极其复杂的系统在知识的边缘运行。
在这种情况下，我们还必须关注数学家兼哲学家Kurt Gödel的工作，他是爱因斯坦在普林斯顿高等研究院工作期间的同时代人。在20世纪初，有几个人试图用一个基于公理和规则的正式系统来构建一个坚实的数学基础，一个万物的数学理论。
其中值得注意的是Bertrand Russell和Alfred North Whitehead的三卷巨著《数学原理》，以及David Hillbert的《希尔伯特程序》。但在1931年，Gödel以其不完备性定理的提出，粉碎了这些梦想。
以下是Gödel用精确的数学语言提出的一个革命性的、但却很简单的断言（用悖论式的数学陈述来支持一个优雅的证明，其最好的阐述见于Ernest Nagel和James R. Newman的书《哥德尔的证明》）。“For any consistent, axiomatic, formal system that can express facts about basic arithmetic, there are true statements that are unprovable within the system and, further, the system’s consistency is unprovable within the system. 对于任何能够表达基本算术事实的一致的、公理化的、形式的系统，都有在该系统内无法证明的真实语句，而且，该系统的一致性在该系统内是无法证明的。”
换句话说，Gödel用数学证明了数学不能证明所有的数学。可以说，Gödel这样做动摇了数学的基础；根据Gödel的说法，数学，这个真理和确定性的典范，是不完美的，确切地说，是不完整的。Thomas Pynchon在他1973年的小说《万有引力的彩虹（Gravity's Rainbow）》中，引用了Gödel来重塑墨菲定律，称其为“爱尔兰无产阶级对哥德尔定理粗暴的重述”。“当一切都得到了解决，当没有什么可以出错，甚至也不会我们吃惊的时候…… 就会有事情发生。”
既然计算机可以被视为是一个形式系统的具体实例，具有一致性并且能够做简单的算术，可以想象哥德尔定理是适用的。那么，有些语句，比如说ML系统的输出，是无法生成的，尽管人们可以看到它们是正确的。
纯粹主义者可能会对将哥德尔定理应用于物理系统感到萎缩，但2016年Gödel奖的共同获奖者Peter W. O’Hearn声称，“哥德尔定理对所有计算机科学家的工作有重大影响…… 它对我们能用计算机回答的问题提出了一个基本限制。这是积极的，因为它限制了我尝试做愚蠢的事情，尝试做不可能的事情。”
“不可能”一直都是对人类的诱惑力很强的。但我们的技术范围不能超出自然界本身施加的限制：我们传输信息的速度有多快，需要花费多少能量来获取信息（成本），我们建立的复杂系统有多接近临界状态，以及我们的技术对错误和不确定性的混沌放大有多敏感。通过证明真理不能仅以数学或科学的可证明性来定义，Gödel确立了人类的理解也有一个自然的外部极限。
这让我们回到了AV及其同类产品。虽然我们处于知识的边缘，但我们还是应该保持一份谦逊，狂妄是危险的。
大自然和人类的理解力都有无法突破的限度，一窝蜂地开发无人驾驶汽车是鲁莽的。
[参考文章]Engineering at the Edge of Knowledge — Girish Mhatre
下载ECAD模型
