欧盟：AI或使自动驾驶汽车极易受到网络攻击

据外媒报道，尽管自动驾驶汽车可以避免人为操作失误，从而挽救生命，但欧洲网络安全局(ENISA)最近的一份报告指出，自动驾驶汽车“极易受到各种攻击”，可能会对乘客、行人和其他车辆造成危险。这份报告中提到的攻击方法包括使用光束的传感器攻击、使对象检测系统过载、恶意后端行为以及在训练数据或物理世界中呈现的对抗性机器学习攻击。

(来源:VentureBeat)

报告显示:“这些攻击可能使人工智能无法‘看到’行人，例如，通过操纵图像识别组件对行人进行错误分类。这可能会在路上造成混乱，因为自动驾驶汽车可能会撞到路上或人行横道上的行人。开发者和系统设计者在人工智能网络安全方面缺乏足够的安全知识和专业技能，这是汽车行业安全整合的主要障碍。”

报告显示，为自动驾驶汽车提供计算能力的人工智能系统和传感器增加了攻击范围。该报告的作者表示，为了解决漏洞问题，政策制定者和企业将需要在整个汽车供应链中建立安全文化，包括第三方供应商。该报告还敦促汽车制造商采取相应措施，将机器学习系统的创建视为汽车行业供应链的一部分，以降低安全风险。

这份报告主要关注使用对抗性机器学习的网络安全攻击，这种攻击包含人类无法检测到的恶意攻击风险。报告还发现，如果在车辆中使用机器学习技术，车辆将需要持续检查系统，以确保它们没有被恶意攻击篡改。报告中提出的场景包括对运动规划和决策算法进行攻击的可能性，以及的可能性，例如愚弄自动驾驶车辆，使其无法识别周围的车辆、人员和墙壁。

在过去的几年中，许多研究表明，物理干扰几乎不费吹灰之力就可以自动驾驶汽车。2017年，研究人员在停车标志上使用喷漆或贴纸，以自动驾驶车辆将标志误认为限速标志。2019年，腾讯安全研究人员使用贴纸将特斯拉的自动驾驶系统转入错误的车道。去年，一些研究人员证明，通过有目的地在道路上放置几个磁带，可以引导自动驾驶车辆系统快速将速度从35英里/小时提高到85英里/小时。据外媒报道，尽管自动驾驶汽车可以避免人为操作失误，从而挽救生命，但欧洲网络安全局(ENISA)最近的一份报告指出，自动驾驶汽车“极易受到各种攻击”，可能会对乘客、行人和其他车辆造成危险。这份报告中提到的攻击方法包括使用光束的传感器攻击、使对象检测系统过载、恶意后端行为以及在训练数据或物理世界中呈现的对抗性机器学习攻击。

(来源:VentureBeat)

报告显示:“这些攻击可能使人工智能无法‘看到’行人，例如，通过操纵图像识别组件对行人进行错误分类。这可能会在路上造成混乱，因为自动驾驶汽车可能会撞到路上或人行横道上的行人。开发者和系统设计者在人工智能网络安全方面缺乏足够的安全知识和专业技能，这是汽车行业安全整合的主要障碍。”

报告显示，为自动驾驶汽车提供计算能力的人工智能系统和传感器增加了攻击范围。该报告的作者表示，为了解决漏洞问题，政策制定者和企业将需要在整个汽车供应链中建立安全文化，包括第三方供应商。该报告还敦促汽车制造商采取相应措施，将机器学习系统的创建视为汽车行业供应链的一部分，以降低安全风险。

本报告主要研究利用对抗性机器学习的网络安全攻击……这包含了人类无法察觉的恶意攻击的风险。报告还发现，如果在车辆中使用机器学习技术，车辆将需要持续检查系统，以确保它们没有被恶意攻击篡改。报告中提出的场景包括对运动规划和决策算法进行攻击的可能性，以及的可能性，例如愚弄自动驾驶车辆，使其无法识别周围的车辆、人员和墙壁。

在过去的几年中，许多研究表明，物理干扰几乎不费吹灰之力就可以自动驾驶汽车。2017年，研究人员在停车标志上使用喷漆或贴纸，以自动驾驶车辆将标志误认为限速标志。2019年，腾讯安全研究人员使用贴纸将特斯拉的自动驾驶系统转入错误的车道。去年，一些研究人员证明，通过有目的地在道路上放置几个磁带，可以引导自动驾驶车辆系统快速将速度从35英里/小时提高到85英里/小时。

标签：发现特斯拉

汽车资讯热门资讯