现阶段自动驾驶的道德问题仍然无解

来源：汽车商业评论综合报告

规则非常重要，始终需要确保自动驾驶汽车所遵循的道德判断规则在人类的道德范畴内。

除了技术问题，自动驾驶还面临着一个不可避免的非技术问题——道德选择。最基本的问题是，自动驾驶汽车能代替人做出道德判断吗？如果是，如何做出判断？

最近，德国一个团队的研究结果表明，人类的道德行为可以用算法来描述，这些算法可以应用于自动驾驶汽车，这样，如果发生交通事故，自动驾驶汽车可以做出符合人类道德标准的判断。

这项研究由德国奥斯纳布鲁克大学认知科学研究所进行，利用虚拟现实技术研究模拟道路交通状况下的人类行为。在虚拟场景中，105名受试者在雾天在郊区开车，他们会突然遇到事故。他们必须决定谁应该免受无生命物体、动物和人类的伤害。随后，研究人员对测试结果进行了统计分析。

过去，人们认为在不可避免的交通碰撞中做出的道德判断非常依赖于具体情况，无法用算法来描述。这项研究的第一作者Leon Sütfeld说：“我们发现情况正好相反。人类在困难中的行为可以通过参与者给予每个人、动物或无生命物体的生命价值来建模。”

在关于自动驾驶汽车道德问题的争论中，这一研究结果确实具有积极意义。人工智能可以学习人类在困难情况下做出的道德选择，让自动驾驶汽车在类似的困难中做出符合人类道德的选择。

然而，这项研究的局限性仍然显而易见。对无生命物体、动物和行人之间的生命价值进行排序相对容易，但如果我们更进一步，如何在不同的行人之间以及司机和行人之间进行排序？

麻省理工学院媒体实验室建立了一个“道德机器”平台(http://moralmachine.mit.edu/)在其网站上收集人类对机器智能（如自动驾驶汽车）未来可能遇到的各种道德问题的意见，并设计了13种不同的情况。

例如，一辆刹车失灵的自动驾驶汽车会继续直线行驶，在同一车道上穿过前面的人行横道，导致两名遵守交通规则的罪犯死亡，或者转向另一车道，导致两个违反交通规则的行人死亡。如何选择？

再比如，一辆刹车失灵的自动驾驶汽车会转向另一条车道，导致遵守交通规则的路人死亡，或者它会直接撞上路障，导致车内乘客死亡。如何选择？

通常，人们同意这样一种观点，即自动驾驶汽车应该尽量减少死亡人数，以挽救更多的生命。

但显然这是一种置身事外的态度。当同意这种观点的人驾驶自动驾驶汽车时，这种设置方法并没有优先保护车主的自动驾驶汽车。他还会愿意买吗？

与此同时，它必然会陷入著名的有轨电车问题。如何在撞上一名遵守交通规则的行人和撞上两名不遵守交通规则行人之间选择自动驾驶汽车？

还有其他问题需要考虑，例如，我们应该在多大程度上赋予自动驾驶汽车做出道德选择的权利？我们是希望自动驾驶汽车模仿人类的道德判断，还是希望它们遵循既定的道德规则？谁能决定这一切，汽车制造商、车主、公众，还是让机器随机选择？谁来承担可能的后果？

尽管无人驾驶的许多法律和道德问题仍未解决，但我们仍无法停止解决这些问题的努力。奥斯纳布吕克大学的研究是向前迈出的一小步。如果道德选择问题得不到解决，无人驾驶汽车的普及就不会一帆风顺。

然而，首先不可忽视的是，是否应该将道德判断算法写入自动驾驶汽车程序本身就是一个道德困境。因此，规则非常重要，始终有必要确保自动驾驶汽车遵循的道德判断规则……

淡化了人类的道德范畴。

如果人类无法做出的道德选择完全交给机器，这将赋予人工智能之神权力，这将带来与打开潘多拉盒子一样的灾难性后果。

或者，具有自主学习能力的人工智能可以为人类未来无法解决的道德困境找到完美的解决方案？没人知道。来源：汽车商业评论综合报告

规则非常重要，始终需要确保自动驾驶汽车所遵循的道德判断规则在人类的道德范畴内。

除了技术问题，自动驾驶还面临着一个不可避免的非技术问题——道德选择。最基本的问题是，自动驾驶汽车能代替人做出道德判断吗？如果是，如何做出判断？

最近，德国一个团队的研究结果表明，人类的道德行为可以用算法来描述，这些算法可以应用于自动驾驶汽车，这样，如果发生交通事故，自动驾驶汽车可以做出符合人类道德标准的判断。

这项研究由德国奥斯纳布鲁克大学认知科学研究所进行，利用虚拟现实技术研究模拟道路交通状况下的人类行为。在虚拟场景中，105名受试者在雾天在郊区开车，他们会突然遇到事故。他们必须决定谁应该免受无生命物体、动物和人类的伤害。随后，研究人员对测试结果进行了统计分析。

过去，人们认为在不可避免的交通碰撞中做出的道德判断非常依赖于具体情况，无法用算法来描述。这项研究的第一作者Leon Sütfeld说：“我们发现情况正好相反。人类在困难中的行为可以通过参与者给予每个人、动物或无生命物体的生命价值来建模。”

在关于自动驾驶汽车道德问题的争论中，这一研究结果确实具有积极意义。人工智能可以学习人类在困难情况下做出的道德选择，让自动驾驶汽车在类似的困难中做出符合人类道德的选择。

然而，这项研究的局限性仍然显而易见。对无生命物体、动物和行人之间的生命价值进行排序相对容易，但如果我们更进一步，如何在不同的行人之间以及司机和行人之间进行排序？

麻省理工学院媒体实验室建立了一个“道德机器”平台(http://moralmachine.mit.edu/)在其网站上收集人类对机器智能（如自动驾驶汽车）未来可能遇到的各种道德问题的意见，并设计了13种不同的情况。

例如，一辆刹车失灵的自动驾驶汽车会继续直线行驶，在同一车道上穿过前面的人行横道，导致两名遵守交通规则的罪犯死亡，或者转向另一车道，导致两个违反交通规则的行人死亡。如何选择？

再比如，一辆刹车失灵的自动驾驶汽车会转向另一条车道，导致遵守交通规则的路人死亡，或者它会直接撞上路障，导致车内乘客死亡。如何选择？

通常，人们同意这样一种观点，即自动驾驶汽车应该尽量减少死亡人数，以挽救更多的生命。

但显然这是一种置身事外的态度。当同意这种观点的人驾驶自动驾驶汽车时，这种设置方法并没有优先保护车主的自动驾驶汽车。他还会愿意买吗？

与此同时，它必然会陷入著名的有轨电车问题。如何在撞上一名遵守交通规则的行人和撞上两名不遵守交通规则行人之间选择自动驾驶汽车？

还有其他问题需要考虑，例如，我们应该在多大程度上赋予自动驾驶汽车做出道德选择的权利？我们是希望自动驾驶汽车模仿人类的道德判断，还是希望它们遵循既定的道德规则？谁能决定这一切，汽车制造商、车主、公众，还是让机器随机选择？谁来承担可能的后果？

尽管无人驾驶的许多法律和道德问题仍未解决，但我们仍无法停止解决这些问题的努力。奥斯纳布吕克的研究……

大学是向前迈出的一小步。如果道德选择问题得不到解决，无人驾驶汽车的普及就不会一帆风顺。

然而，首先不可忽视的是，是否应该将道德判断算法写入自动驾驶汽车程序本身就是一个道德困境。因此，规则非常重要，始终需要确保自动驾驶汽车所遵循的道德判断规则在人类的道德范畴内。

如果人类无法做出的道德选择完全交给机器，这将赋予人工智能之神权力，这将带来与打开潘多拉盒子一样的灾难性后果。

或者，具有自主学习能力的人工智能可以为人类未来无法解决的道德困境找到完美的解决方案？没人知道。

标签：发现

汽车资讯热门资讯