让谁死？自动驾驶中的道德难题 MIT想通过模拟的方式解决

近年来，宝马、谷歌、福特等许多公司的自动驾驶汽车开始流行，围绕乘客和行人的问题也十分猖獗。例如，当一辆自动驾驶汽车面临不可避免会造成人员伤亡的碰撞时，它应该怎么办？

麻省理工学院研究人员建立的名为“道德机器”的网站推出了一项非常“病态”的测试：参与者可以在许多预设的“成败攸关”场景中选择让谁死去。

这个所谓的“道德机器”将一次设置一个“生死攸关”的场景。一个或多个生物（人或动物）将在现场处于致命的危险之中，这种道德困境将移交给测试者，因此你必须决定牺牲和拯救哪一个，并完成非此即彼的选择。

大多数场景的设置最终会指向两个选择：是让自动驾驶汽车中的乘客死亡，还是让行人遭遇“突然刹车失灵”。每个场景只提供了潜在受害者的少量细节。

例如，在某个场景中，潜在的受害者是道路两侧的一名年轻女孩和一名老年妇女，他们正计划从两个方向穿过道路。前者违反交通法规，闯红灯横穿马路；后者遵守交通规则并等待红灯。年龄还是法律和纪律？这个时候你撞到谁取决于你在自动驾驶汽车里。

根据网站的设想，“道德机器”被设计为一个平台，针对自动驾驶汽车遇到的道德困境，一方面“建立人类的群体观”；另一方面，“探讨此类场景的道德后果。”

从公路上的自动驾驶汽车到降落在自动帆船上的无人驾驶可回收火箭，人工智能正在支持甚至完全接管越来越多复杂的人工活动。

麻省理工学院的研究人员表示，“更强大的自动驾驶可以使机器在被迫时做出牺牲人类生命或肢体的选择。这不仅需要更深入地了解人类是如何做出这种选择的，还需要更深入的了解人工智能是如何做出这样的选择的。”

汽车制造商对道德选择和自动驾驶汽车有不同的看法，这是一个有争议的领域，需要长期研究。5月，沃尔沃防撞领域高级技术总监Trent Victor表示，有驾驶辅助的汽车永远不会让自己陷入某种道德困境，他们应该“积极控制驾驶情况”。近年来，宝马、谷歌、福特等许多公司的自动驾驶汽车开始流行，围绕乘客和行人的问题也十分猖獗。例如，当一辆自动驾驶汽车面临不可避免会造成人员伤亡的碰撞时，它应该怎么办？

麻省理工学院研究人员建立的名为“道德机器”的网站推出了一项非常“病态”的测试：参与者可以在许多预设的“成败攸关”场景中选择让谁死去。

这个所谓的“道德机器”将一次设置一个“生死攸关”的场景。一个或多个生物（人或动物）将在现场处于致命的危险之中，这种道德困境将移交给测试者，因此你必须决定牺牲和拯救哪一个，并完成非此即彼的选择。

大多数场景的设置最终会指向两个选择：是让自动驾驶汽车中的乘客死亡，还是让行人遭遇“突然刹车失灵”。每个场景只提供了潜在受害者的少量细节。

例如，在某个场景中，潜在的受害者是道路两侧的一名年轻女孩和一名老年妇女，他们正计划从两个方向穿过道路。前者违反交通法规，闯红灯横穿马路；后者遵守交通规则并等待红灯。年龄还是法律和纪律？这个时候你撞到谁取决于你在自动驾驶汽车里。

根据网站的设想，“道德机器”被设计为一个平台，针对自动驾驶汽车遇到的道德困境，一方面“建立人类的群体观”；

另一方面，“探讨此类场景的道德后果。”

从公路上的自动驾驶汽车到降落在自动帆船上的无人驾驶可回收火箭，人工智能正在支持甚至完全接管越来越多复杂的人工活动。

麻省理工学院的研究人员表示，“更强大的自动驾驶可以使机器在被迫时做出牺牲人类生命或肢体的选择。这不仅需要更深入地了解人类是如何做出这种选择的，还需要更深入的了解人工智能是如何做出这样的选择的。”

汽车制造商对道德选择和自动驾驶汽车有不同的看法，这是一个有争议的领域，需要长期研究。5月，沃尔沃防撞领域高级技术总监Trent Victor表示，有驾驶辅助的汽车永远不会让自己陷入某种道德困境，他们应该“积极控制驾驶情况”。

标签：宝马福特沃尔沃

汽车资讯热门资讯