大数跨境

北京理工大学龚建伟教授团队:一种基于分层强化学习并考虑社会偏好的自主超车系统

北京理工大学龚建伟教授团队:一种基于分层强化学习并考虑社会偏好的自主超车系统 Automotive Innovation
2022-04-26
35
导读:北京理工大学龚建伟教授团队:一种基于分层强化学习并考虑社会偏好的自主超车系统

一种基于分层强化学习并考虑社会偏好的自主超车系统

北京理工大学龚建伟教授团队提出新型智能驾驶超车决策与控制框架

通信作者:吕超:chaolu@bit.edu.cn

引用信息:Lu, H., Lu, C., Yu, Y. et al.: Autonomous overtaking for intelligent vehicles considering social preference based on hierarchical reinforcement learning. Automot. Innov. (2022). https://doi.org/10.1007/s42154-022-00177-1

全文速览

1. 研究背景及意义

超车是交通事故高发场景之一,对智能驾驶系统的安全性与自适应能力提出严峻挑战。传统自主超车系统依赖预设规则,难以应对复杂交互环境;现有基于机器学习的方法大多忽略被超车辆的行为特征。为此,北京理工大学龚建伟教授团队提出一种融合社会偏好识别的分层强化学习超车系统,通过数据驱动提升决策智能化水平,在增强行车安全性和系统适应性方面具有重要意义。

2. 主要研究内容

(1)系统架构设计

该系统采用分层强化学习框架,集成超车决策与规划控制两大模块:上层为基于马尔可夫决策过程(MDP)和社会偏好的超车决策模块;下层为基于半马尔可夫决策过程(Semi-MDP)和运动基元的规划控制模块,实现从决策到执行的端到端闭环控制。

图1 自主超车系统流程图

(2)规划控制模块

基于Semi-MDP构建运动规划模型,结合预定义换道运动基元,在接收到“开始超车”指令后生成最优轨迹。该方法确保了规划与控制的一致性,并提升了动态环境下的响应效率。

(3)超车决策模块

利用真实超车数据,采用K-means无监督聚类方法将前车纵向行为划分为三类社会偏好类型:利己型、利他型和互惠型。

图2 三种社会偏好的分类结果

设计两种实时分类器用于在线识别前车社会偏好类型,并将其引入改进的半模型Q-learning算法中进行训练,显著增强了决策模型在动态交互中的适应能力。

图3 三种社会偏好的模型训练过程

(4)实验验证

基于实车数据采集平台重建仿真场景,对所提系统进行全面测试。

图4 实车数据采集平台

实验表明,引入社会偏好识别机制后,系统能更准确判断前车行为意图,有效提升超车安全性。尤其在面对行为模式变化的前车时,相比传统不考虑社会偏好的系统表现出更强的鲁棒性与适应性。对比轨迹如图5所示。

图5 考虑与不考虑社会偏好的超车系统对比轨迹

3. 总结与展望

本研究构建了一套考虑社会偏好的分层强化学习超车系统,能够有效应对前车行为不确定性,提升智能车辆在复杂交通交互中的决策合理性与安全性。仿真验证结果显示,该系统相较传统方法具备更优的自适应性能。下一步将开展实车道路测试,进一步验证其实际应用潜力。

作者团队简介

龚建伟教授团队主要研究方向:智能交通与网联技术、智能车辆理论与设计、智能驾驶感知决策与规划、运动规划与控制、智能线控底盘技术等。

主要成果:

  • 研制我国第一辆无人驾驶车辆(1990–1995年);
  • 获国家科技进步三等奖(1999年)、二等奖(2019年);
  • 获数十项部级科技奖励;
  • 荣获中国智能车未来挑战赛第一名(2013年)等多项赛事佳绩;
  • 在“跨越险阻”地面无人系统挑战赛中表现优异;
  • 团队成员获国家自然科学基金委关键技术贡献奖。

《Automotive Innovation》期刊介绍

《Automotive Innovation》是由国家新闻出版署批准、中国汽车工程学会主办的行业首本英文科技期刊,致力于打造中国汽车领域的国际交流平台。期刊与Springer Nature合作出版,已入选EI、ESCI、Scopus数据库,每季度发行一期,读者覆盖72个国家和地区,单篇最高下载量超21000次。

主编:李骏院士、赵福全教授;执行主编:马芳武教授。

期刊聚焦智能网联汽车、新能源汽车、未来出行、节能与环保、系统工程等方向,欢迎全球学者投稿。

投稿要求:

联系方式:
联系人:谷慧思
电话:86-10-50950101
邮箱:jai-editor@sae-china.org

【声明】内容源于网络
0
0
Automotive Innovation
1234
内容 281
粉丝 0
Automotive Innovation 1234
总阅读5.0k
粉丝0
内容281