1967年英国哲学家菲利帕·福特首次提出的电车难题,被很多人熟知:一辆失控的列车在铁轨上行驶,在列车正在行进的轨道上,有五个人被绑起来,无法动弹,列车将要碾过他们,若此时你站在改变列车轨道的操纵杆旁,可以通过拉动这个操纵杆将列车引导到另一条轨道,但另一条轨道上有也有一个被绑着无法动弹的人,只要列车变换轨道,也会碾过那个人,此时你会怎么选?作为伦理学的思想实验,这个问题被很多人讨论,多数人在遇到这个问题时,是很难做出选择的,也无法给出很完美的答案,在现实生活中很少有人会遇到类似的难题,而在自动驾驶世界,这个问题将普遍存在,并会引导和决定自动驾驶技术的发展轨迹。

 

 

电车难题在设计自动驾驶的运行规范时,无疑会遇到这样一个问题,当遇到不可避免的汽车碰撞时,如果自动驾驶的汽车选择不刹车,将会对行人造成伤害,如果自动驾驶汽车及时刹车,又会造成乘客的伤害,在这样的情况下自动驾驶汽车将做何种选择?即自动驾驶汽车在乘客优先和行人优先之间应该做出何种选择?

 

在自动驾驶初期发展的过程中,这个问题的决策者将由制定自动驾驶汽车运行规则的软件工程师所决定,这样的运行规则或许没有一个既定的标准,也很难有一个既定的标准,在如何做到将行人与乘客的伤害降低到最小这个问题上,会有无限种选择,也无法做到全面的概括,而自动驾驶汽车的运行规则,是由一行行代码组成的,软件工程师很难做到穷举,即便能将大部分的可能进行罗列,那也代表着巨大的代码行数,这将是一个巨大的数据计算,在遇到碰撞时,是否能在N种可能种做出最完美的选择,又将是一个值得考虑的问题。

 

即便可以对所有的可能进行列举,且可以成功及时地在自动驾驶汽车行驶过程中进行判断,那是否代表着自动驾驶汽车的电车难题会被破解?恰恰相反,当自动驾驶汽车进入市场后,将面临着消费者的选择,作为给消费者提供服务的自动驾驶供应商,应该在设计产品的过程中充分考虑被服务者,即消费者的需求,那就应该在设计自动驾驶汽车运行规则的过程中将保护乘客安全放在首位,如果真做这样的选择,将会导致绝大多数作为行人角色的抨击,即便将保护乘客安全放在首位,作为消费者也并非提供极大的肯定,因为作为乘客的角色并非一直存在,在其他情况下也有可能成为行人的角色,在此情况下,自动驾驶汽车和成为行人角色的消费者又站在了对立面。使用者角色的转变让自动驾驶汽车的运行规则很难做出符合所有人要求的标准,而这个标准恰恰是最难,也不可能满足所有人的心理预期的。

 

自动驾驶汽车的设计,是为了避免人类驾驶员在操作车辆过程中的失误可能,从而降低汽车碰撞对人类带来的伤害,每个人都希望能拥有一辆自动驾驶汽车,可是自动驾驶汽车很难做到100%的安全标准,这是毋庸置疑的。自动驾驶汽车在行驶过程中也是需要判断路况,对道路信息进行分析并做出对应的动作,整个过程和人类驾驶员驾驶汽车一样包含了数据感知、规划决策、控制执行3个部分,每个部分都需要自动驾驶汽车在设计过程中进行足够完善的考量,繁杂的步骤导致自动驾驶汽车很难做到完美的行驶要求,这就需要软件工程师在设计自动驾驶汽车运行规则时提供和人类驾驶员一样的“行驶价值观”。

 

很多的自动驾驶汽车事故表明,现存的自动驾驶汽车并不会主动去碰撞行人,而是在道路状况复杂,自动驾驶汽车很难做出独立的判断,而车辆上的安全员由于对自动驾驶汽车足够的信任,导致自动驾驶汽车“被迫”碰撞行人。在这个过程中,就体现出自动驾驶汽车运行规则设计得不够完善。而未来的自动驾驶汽车,自动驾驶汽车的灵魂(软件)将取缔安全员的角色,自动驾驶汽车在行驶过程中如果遇到无法避免的碰撞时,就需要快速地、独立地做出决策,这就需要软件足够的“聪明”,能够判别道路情况,将对人类的伤害降到最低,作为人类驾驶员的我们尚且无法做到足够完美的选择,更何况自动驾驶汽车可以做出预判?作为人类的我们在面对同一事件时尚且无法提供统一的标准答案,作为一行行代码写下的自动驾驶汽车运行规则,又如何去找到最优的标准解?

 

汽车碰撞从另一方面考虑,作为自动驾驶汽车的拥有者,在自动驾驶汽车供应商眼中,他们就是自己的顾客,在设计相关规则时,偏向于为顾客提供更好的服务无非是正常的选择,即在自动驾驶运行规则设计过程中选择“乘客优先”,而非“行人优先”,从商业方面考虑也是很正常的考量,但是从社会伦理道德方面考量,行人和乘客都是活生生的生命,又怎么可以通过代码来决定某一方的安全与否呢?正如前文所述,作为乘客角色并非是永久的,在日常生活中一定会成为行人的角色,在角色转换后,站在行人角色上又应该如何去看待自动驾驶汽车呢?没有人愿意成为自动驾驶时代的“牺牲品”,这对于自动驾驶汽车供应商来做是很难做到完美的解决方案。

 

自动驾驶时代的到来,作为社会中的一份子,全部都是参与者,没有一个旁观者,软件定义汽车下的自动驾驶汽车对于每个人都是一样的,如何做到最完美的自动驾驶避障解决方案,是每个人都需要考量的事情,这是无法置身事外的。自动驾驶汽车的出现,必将影响我们的出行习惯和交通管理方案,这需要自动驾驶汽车供应商、消费者、政府、保险机构、汽车后市场服务企业等多方面的参与,自动驾驶汽车面对的道德困境无法避免且终将无法得到统一的答案。