欧盟研究：AI让自动驾驶汽车易受到攻击

欧盟网络安全机构（ENISA）和联合研究中心（JRC）对自动驾驶车辆中的人工智能进行研究，发现其存在网络相关的风险，并提供了缓解这风险的建议。欧盟网络安全机构执行董事Juhan Lepassaar提到，当自动驾驶汽车越过欧盟成员国的边界时，同时也带来了自动驾驶汽车的弱点，因此安全性必须是自动驾驶汽车可否上路的优先考量重点。

欧盟提到，自动驾驶汽车由于消除了发生交通事故最主要的成因——人，因此有望减少交通事故和死亡人数，但是却可能对驾驶员、乘客和行人带来完全不同的风险。自动驾驶汽车使用人工智能系统，通过机器学技术来收集、分析和传输资料，执行人类驾驶汽车所会执行的决策，但这些系统和其他IT系统一样，容易受到攻击，威胁车辆的正常功能。

自动驾驶汽车的AI系统，能够识别交通与道路号志，侦测车辆及其他道路物体的移动，进而规划行进的路线，除了像是突然故障的意外，研究报告指出，人工智能系统还很脆弱，难以抵御刻意的攻击，不只人工智能系统被干扰，重要的安全功能也会受到破坏。

像是在道路上的涂鸦，可能误导车辆导航功能，或是在停止标志粘贴贴纸，阻止人工智能系统的识别，这些行为都可能导致人工智能判断错误，进而采取危险的行为，影响乘客或是行人的安全。

为了提高自动驾驶汽车人工智能的安全性，研究报告建议，人工智能组件应该定期进行安全评估，对人工智能模型和资料执行系统性验证，以确保车辆在意外情况或是恶意攻击时，总是能正确的做出反应。报告还建议在连续风险评估流程中应用威胁情报（Threat Intelligence），用来识别自动驾驶汽车中，潜在的人工智能风险以及新兴威胁。

另外，整个汽车供应链，也应该由人工智能安全策略，和安全文化主导，报告提到，汽车工业应该从一开始，就采用安全设计方案部署人工智能功能，使得网络安全成为数字设计的核心要素，而且汽车工业也必须提高回应安全事件的能力，以便具备快速处理人工智能和相关新兴网络安全问题的能力。

即便人工智能存在风险，但JRC总裁Stephen Quest提到，自动驾驶带来的优点，不会被安全风险抵消，这份报告的重点是更深入的了解自动驾驶人工智能技术与相关网络风险，以确保自动驾驶汽车的安全性。