雷锋网按：本文内容来自 360 智能网联汽车安全实验室负责人刘健皓在硬创公开课的分享，由雷锋网旗下栏目“新智驾”整理。
本次公开课包含以下内容：
-
自动驾驶与辅助驾驶的区别；
-
自动驾驶功能安全隐患；
-
事故分析；
-
安全建议。
自动驾驶与辅助驾驶的区别
雷锋网：现在大众对于自动驾驶的预期过高，用户或车主在使用这样功能的时候，会存在哪些常见误区？在你看来，自动驾驶和辅助驾驶的区别是什么？
刘健皓：自动驾驶在宣传的过程中和标准的定义中给人已完全放心的安全行驶功能进行灌输，这导致了大多数用户在驾驶控制上完全依赖于自动驾驶系统。
自动驾驶和辅助驾驶的主要区别就是在于监视和控制的权限。自动驾驶的监视和控制主要在于强大的自动驾驶系统，辅助驾驶的监视主要在于人，需要用户去监视路面上的情况。而控制在于车，帮助人来根据路面上的情况来进行行驶。
雷锋网：在什么样的前提下（包括路况、软件硬件、自然环境），我们可以放心安全使用自动驾驶或辅助驾驶功能？
刘健皓：我个人观点，自己是不会放心安全使用自动驾驶的。我总结有三点：
1. 标准的封闭式的道路下，而且在道路标识，车道线等公路基础交通设施都清晰的情况下。
2. 软件硬件都正常运行且长时间不会存在故障的情况下。
3. 非恶劣的自然条件下。
自动驾驶功能安全隐患
雷锋网：自动驾驶或辅助驾驶系统并不是万能的。从你们实验室的研究来看，影响自动驾驶功能的不安全因素有哪些？市面上的辅助驾驶系统存在哪些不可靠的地方？
刘健皓：如上图，自动驾驶不安全因素主要在于传感器的感知出现错误，导致的决策出现错误，最终导致控制上的偏差。
我们在今年的 DEFCON 24 世界黑客大会上面发布了 针对 Autopilot 系统传感器的测试。并验证了超声波传感器、毫米波雷达、和摄像头都存在的被攻击的风险。
雷锋网：能不能介绍一下辅助驾驶系统的传感器分别存在哪些潜在的风险？
刘健皓：如上图，不同的传感器攻击方法不一样，总结下来传感器攻击大致有致盲、拒绝服务、信息篡改、干扰等风险。
目前我们发的传感器攻击，可以影响到车身控制。干扰自动驾驶路径规划。由于是硬件方面的漏洞，厂家也没有办法完全修复。所以攻击方法我们不能具体演讲。
有兴趣的可以去看一下我们在 defcon 24 的演讲视频。
雷锋网：我们知道自动驾驶/辅助驾驶系统一般由毫米波雷达、超声波雷达和摄像头等传感器组成。从你们团队的研究来看，这些传感器会通过哪些方式受到干扰，让辅助驾驶功能失效？常见的风险是什么？
刘健皓：我们目前研究的超声波传感器主要是利用测距的漏洞来影响距离的标定。
影响声学测距的方法有很多种，一种是回波。一种是吸波。这两种干扰方法造成的后果是不一样的。一个是无效距离，一个是零距离。
毫米波雷达我们可以通过欺骗的方式干扰识别，降低自动驾驶的可靠性。还有一种方法叫 Jamming。
摄像头还有一种攻击方法叫致盲。激光雷达也有一些方法，可以干扰。这就是目前信息安全领域对传感器攻击的方法汇总。
雷锋网(公众号：雷锋网)：刚刚你提到的这些传感器都存在这样或那样潜在的风险，对于自动驾驶或者辅助驾驶的使用者而言，有没有什么防御方法或者配套改善的措施来避免使用者在用一功能的时候出现不会出现事故？
刘健皓：现在业界大多数的做法都是在讲数据融合，通过多维数据融合，和冗余技术降低传感器误报造成的错误执行。
同时要采用一些人工智能技术，来降低数据融合造成的时间成本。在传感器自身层面上需要，进行安全设计，对于光学和声学方面的攻击都要进行过滤和防护。
雷锋网：鉴于提到的传感器存在一些风险。目前自动驾驶使用的传感器该如何选择？
刘健皓：这些风险不影响传感器的选择。传感器的选择主要原则要根据各自车厂的技术路线和供应商的技术水平。
雷锋网：根据你们的研究，什么样的架构或方案比较安全或可靠？或者提高安全的等级有什么建议？除了感知层的问题，决策、执行层面是否也存在安全的问题？
刘健皓：目前每个 OEM 厂家的技术路线都不一样。没有说哪个架构是否安全可靠。这里的关键技术就是对数据的应用。
提高安全的等级的建议，我已经说过：从数据融合、传感器可靠性、人工智能三个方面。目前我们在研究决策和执行层面的漏洞。
事故分析
雷锋网：有一个视频：前一段时间，一位车主在城市正常道路行驶，使用 Autopilot 的时候，直接撞上了前方白色栅栏，还好没有造成人员伤亡，而是车体受损。能不能给我们从自动驾驶原理上来解析一下，为什么在这一种不算太复杂的城市路况下，这套驾驶系统还是会出现这样的事故？
刘健皓：我当时看到这样的视频，我一点都不惊讶。因为毫米波雷达没有识别出静止的并且有缝隙的栅栏，所以会一直直行。
使用 Autopilot 的用户都应该会有感受，从原理上来分析是毫米波雷达测距不能够判断出前方物体是什么？因为采集到的数据要跟模型匹配，判断，但是特斯拉应该没有中国这样的栅栏的模型。国外有见过栅栏吗？同时摄像头也没有标定出栅栏为障碍物，所以会一直直行。
雷锋网：特斯拉后来通过 OTA 更新了 Autoplilot 8.0 版本，在硬件上也做了新的布局，以你们的研究来看，你们这么看这两次更新？
刘健皓：特斯拉出现自动驾驶伤亡事故以后，对自动驾驶功能已经进行更进一步的设计。我们在今年 1 月份就提交了通过超声波影响他自动驾驶传感器的漏洞，他们也接受了我们的建议。
所以在 8.0 系统，对于自动驾驶功能的更新和改进。主要强调的还是用户的监控。长时间不握方向盘是有提示的。这个频率要比 7.0 系统进行时要高。
在硬件方面。特斯拉的技术路线走的是感知和算法。使用了全车 8 个摄像头代替了激光雷达方案。同时配备高性能的处理器进行计算。这是一条自动驾驶落地量产的技术路线，实际上特斯拉已经做到了。
雷锋网：像这套方案，有没有可能还会出现像你前面提到的「存在盲区，或者有漏检」现象？
刘健皓：目前来讲，之前的盲区和漏检是不存在了。但是也需要研究现在的方案。介于国内没有硬件更新的自动驾驶汽车，所以这个也不好说。
安全建议
雷锋网：从你们的研究看，在高速跟车、车辆变道、出入主辅路等场景下，在使用自动驾驶或辅助驾驶的时候，我们应该注意些什么？有哪些安全禁忌是绝对不能犯的？
刘健皓：我之前总结了 10 条辅助驾驶安全注意事项：
1. 启用辅助驾驶时，实现一定要注意在路面上的情况。
2. 在强光、逆光行驶下要注意控制方向盘和车速。
3. 辅助驾驶自动转弯时，转角大于 45°角时需要控制方向盘。
4. 高速行驶进行车道保持功能要控制与前车车距，脚要放在刹车上。
5. 跟车转弯时双手放在方向盘上，防止汽车窜出。
6. 进出主辅路时，需要控制方向盘，辅助驾驶可能无法判断障碍物。
7. 高速自动驾驶时必须进入正式车道。
8. 高速变道时，注意前后方车辆车距。
9. 要在道路条件良好的情况下启用自动驾驶系统。
10. 选择合适的车辆锁定开启功能，不要跟公交车，大卡车。
PS：如果你对此话题有兴趣，欢迎关注“新智驾”加入讨论。
雷锋网原创文章，未经授权禁止转载。详情见转载须知。
1万+
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
