机器伦理:Uber自动驾驶致死,检测到了行人但机器觉得无需避让?

0

 

一个细思极恐的问题,机器需要考虑伦理道德吗?

今年3月份,Uber发生了全世界第一宗完全自动驾驶汽车致死事故,当时众多结论认为,是Uber无人车没有开启行人监测系统,换句话说,这是一起由硬件引发的车祸,但如今结果似乎有所反转。

相互甩锅,真相依然扑朔迷离

据美国科技新闻网站The Information 5月7日消息,Uber公司基本查明了事故原因,两位消息人士透露,在这名女性横穿马路时,Uber无人车(改装自沃尔沃XC90)的传感器已经探测到了她,不过Uber的自动驾驶软件判断认为,系统无需对这位女性采取避让措施。

因为谷歌系的Waymo和通用汽车的Cruise常常稍有威胁就会急刹,而Uber的系统调整了判断策略,会忽略“误报”或其他不会成为问题的东西,比如路上漂浮的塑料袋等,而事发时这位女子手里好像确实拎着塑料袋……

也就是说,事故罪魁祸首是软件系统而不是各种传感器、摄像头在内的硬件系统。

我不知道是不是硬件方和软件方在相互甩锅,还是Uber为了给自己“技术不行”的传闻洗白,毕竟检测不到行人和能检测到完全是两个概念,后者只能说明大家对“安全文化”的理念不同(车祸发生后,有美国媒体指责说Uber自动驾驶汽车项目过去的负责人将发展速度放在第一位,安全是其次),而技术是没问题的。

但真相总归依然是扑朔迷离,或许与Uber共同调查的美国国家安全运输委员会(NTSB)稍后出具的调查报告会更详细些。

细思极恐,机器能决定人的生命了?

如果真的是软件判断觉得无需为行人违规买单,那么这件事就真的细思极恐了,因为机器已经开始决定人的生命了。

在人工智能机器人的发展过程中,都要求把保护生命作为第一原则,其实在自动驾驶汽车发展上也是如此,德国道德伦理委员会在2017年颁布的指导原则就规定了自动驾驶车辆对保护对象的优先等级:

人类生命>动物生命>财产损失。

机器伦理,拯救谁又该牺牲谁?

但问题时,如果同等级的生命受到威胁怎么办?这里又牵涉出伦理问题。

比如自动驾驶车辆过来时两个人同时过马路,两个中只能避开一个怎么选?是不是充了会员就有优先被保护权?

再或者有10个人在违规横穿马路,旁边有1位行人遵守交通规则走在非机动车道上,当自动驾驶车辆遇到无法避免的碰撞,是选择让10个违规的行人为生命买单还是选择撞向这1个人?

如果机器以保护人类生命为第一原则,那么很有可能选择撞上这1个人拯救其它10个人,但对于这个路人来说,又是何其无辜。

可能有人觉得,这样做没错,牺牲少数挽救多数不是更符合伦理道德规范吗?

那么如果有一天,你乘坐一辆无人驾驶车走在一边悬崖一边陡壁的弯道上,前面突然出现一群骑行客,事故伤亡无法避免时,你猜你的自动驾驶汽车会不会带着你一起跳崖?

好在这次车祸后,包括Uber在内的多家自动驾驶汽车研发公司都暂停了路测,这次严重车祸将促使研发企业更加重视无人车的安全性,在我看来,尊重生命远比发展科技重要。

Leave A Reply