安全性是自动驾驶技术的核心命题。清华大学车辆与运载学院杨殿阁教授带领的研究团队日前在《自然·机器智能》上发表的一项研究成果表明，利用自动驾驶“可信持续进化”技术，可实现自动驾驶汽车在遇到突发状况时，即便没有预先设定的应对方案，也能自主学习应对陌生场景并保证行驶安全，这为自动驾驶汽车实现大规模商用提供了可能性。
据杨殿阁介绍，尽管目前自动驾驶汽车已具备在特定典型场景中示范驾驶运行的能力，但其大规模商业应用仍存安全性担忧。自动驾驶依赖数据驱动的AI技术，传统的研究方法是通过采集更大规模的驾驶数据、测试更长的驾驶里程来覆盖所有可能的驾驶场景，以确保发生突发状况时汽车有预先设定的应对方案。但由于AI只能处理已知场景，再加上AI算法“黑盒”特点与其偶发失效特性，在遇到陌生场景时，车辆可能会出现难以控制的情况，这使安全驾驶变得十分困难。
研究团队提出的“可信持续进化技术”为解决该问题提供了新思路。该技术是基于动态评估AI的可信赖程度进行学习训练，保证自动驾驶汽车在遇到陌生新场景时，其驾驶能力可从基础性的主动避让开始持续提升，在确保安全前提下达到更好的驾驶表现。这项技术的核心难点在于确保车辆性能的持续优化，避免传统AI训练过程中可能出现的时好时坏的震荡现象。
“通过多次仿真和实车测试，自动驾驶汽车能学习、熟悉各种新遇到的场景，‘持续进化’得到更好的应对方案。”研究团队成员、清华大学车辆学院博士后曹重说，实验结果表明，这项技术能保证自动驾驶汽车在系统没有预先设定的多种突发场景如车辆逆行、工程车辆压线超车等发生时，无需额外指令就能主动采取避让，保证了驾驶安全，并随着驾驶里程与数据量的累积，性能持续提升。
杨殿阁认为，这项技术有望解决在面对未知场景时自动驾驶汽车可能做出危险行为的问题，让自动驾驶汽车具备实现普及和大规模商用的可能性。
据悉，目前该技术已在2022北京科技冬奥自动驾驶示范项目中得到成功应用。下一步团队将开展大规模自动驾驶开放道路应用示范，以检验该技术在更多行驶场景中的应对能力与自主提升能力。
