欢迎光临
我们一直在努力

无人驾驶汽车的道德困境

“电车难题”是伦理学领域中一个著名的思想实验。在“电车难题”的场景中,五个无辜的人被绑在铁轨上,你正驾驶着一辆电车呼啸而来。如果你不拐弯,那么这五个人死定了,如果你拉下列车控制杆,使列车朝另一个方向驶去,问题又来了,在另一个方向的轨道上有一个同样无辜的人。自从1967年英国哲学家菲利帕·福特首次提出“电车难题”以来,哲学家们一直没有讨论出统一的答案。主流的观点渐渐变成两种,一种是道义论,另一种是结果论。按照道义论,所有生命皆平等,所以你不该转弯,但按照结果论,你应该转弯,毕竟只牺牲一个人才能获得最优的结果。这两种观点在某种程度上都是符合道德的,但行为却截然相反(详见《大科技·百科新说》2016年第2期《电车难题:转弯?不转弯?》一文)。

“电车难题”使哲学家们陷入了两难的境地,他们越是冥思苦想,就越来越陷入泥淖。然而现在,不仅哲学家要面对这个令人讨厌的难题,汽车产业的政策制定者和汽车生产商也开始受到它的折磨了。由于无人驾驶汽车已经上路,政策制定者和汽车生产商不得不考虑一下“电车难题”在现实中出现的可能性。

受到冲击的设计理念

从表面上来看,无人驾驶汽车似乎并不会带来新的不同。一辆汽车,不论它受汽车软件控制,还是由人类亲自驾驶,都要面临撞谁不撞谁的选择。然而实际上,只有在无人驾驶汽车中,“电车难题”作为一种思想实验才更具有现实意义。在现实中,人类司机在遭遇紧急情况时,比如,面前突然冲出来一个人或者一辆车的时候,在一瞬间通常是丧失理智的,全靠下意识的操作。他或者急踩刹车,或者急转弯,完全没有时间做“电车难题”中的伦理学思考。而且,正是由于下意识的操作,最终的结果是司机无法把握的——有可能是虚惊一场,没人员伤亡;也有可能比不操作更严重,比如急转弯翻车或者导致连环追尾使更多人伤亡。

因此,在现实的交通事故中,我们很少会从伦理学上对司机做道德谴责(个别情况除外),毕竟,人都会出现失误。但是,无人驾驶汽车就不同了。它所有的反应都是汽车程序事先设定好了的。它不需要在那一瞬间做决定,汽车生产商早已用计算机代码告诉它,在这种情况下该怎么做。所以,此时才真正出现了伦理问题,而且这种伦理问题将会冲击无人驾驶汽车的设计理念。

无人驾驶汽车为什么会出现?作为无人驾驶汽车技术的领军巨头,谷歌公司给出了权威的答案——无人驾驶汽车可以减少由于人类疏忽而造成的交通事故,进而降低事故中丧生或受伤的人数。也就是说,无人驾驶汽车是出于安全的角度被设计出来的。那么在出现“电车难题”时,无人驾驶汽车的首要任务是为了保护车主的安全,还是为了保护车外人的安全?

举一个例子,你乘坐无人驾驶汽车行驶在山路上,发现面前有几个小孩堵在路中间,向左拐弯的话,你会有冲下悬崖的可能性,向右拐弯则是逆行道,违反了交通规则,有可能与前方驶来的汽车迎头相撞。这时,如果无人驾驶汽车的设计理念是优先保证车内人的安全,那么汽车完全不会做任何操作,径直轧过去就行了,但后果会造成这几个小孩的身亡。另一方面,如果无人驾驶汽车的设计理念是保护车外人的安全,那么很明显,这样的车卖不出去——无论车主还是汽车生产商,都不希望自己成为车祸的受害者。

这里,又涉及到另一个问题:如果无人驾驶汽车遵守规则就必须造成伤害,是否应该允许无人驾驶汽车破坏交通规则呢(比如转入逆行道)?如果可以的话,这是与“遵守交通规则,降低事故风险”的常识相矛盾的。当然,也有人指出,也许可以在设计无人驾驶汽车软件的时候不设定什么“指导原则”,就让汽车模拟人类司机的下意识操作,让它在随机状态下运行。但这种“碰运气”的做法同样不符合人类发明无人驾驶汽车的初衷。

决策权和责任

对于前一个问题,也许通过技术的进步,汽车生产商们能够编写出无比复杂的程序,尽量让无人驾驶汽车在面对电车难题时做出合乎逻辑的选择。但是,想象一下,在未来的某一天里,乘坐在无人驾驶汽车中的你,生命处在出现“电车难题”的危急时刻,自己却无法做出决策,你会甘心么?

“电车难题”中的决策权至关重要,那么它应该属于谁?是汽车制造商、法律制定者,还是车主本人?谁来做决策,谁就有可能被推到道德的风口、伦理的浪尖上,而且,无人驾驶汽车在面临“电车难题”时决策权的归属会出现一些变数。比如,如果汽车生产商具有决策权,他们设计了一款无人驾驶汽车,让它在出现“电车难题”的情况下故意杀害车主,以降低事故中的人员伤亡。你如何保证司机不会自己修改程序,以确保自己永远不会被自己的汽车蓄意谋杀?计算机软件总有漏洞,总会有人能破解这些软件。

最后,如果无人驾驶汽车真的遭遇了“电车难题”,汽车软件在做出选择之后,谁需要站出来对后果负责呢?反正法律制定者不会让无人驾驶汽车本身来担责,“寻找明确的负责人”是我们需要思考的另外一个问题。

本文源自大科技*百科新说2016年第8期杂志文章、欢迎广大读者关注我们大科技的微信号:hdkj1997

赞(0) 打赏
未经允许不得转载:子午书简 » 无人驾驶汽车的道德困境

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址