Edited by QI Liming

由北京大学人工智能研究院朱松纯教授领衔的团队，成功构建了一套使机器人能够实时理解人类价值观的计算框架，助力机器人与人类用户通过实时沟通完成一系列复杂的人机协同任务。

▲ Megatron与人类互动。（图片来源：VCG）

该研究为机器注入“心智”，让AI驱动的机器人具备“读懂”人类价值观的能力。在社会协作中，队友间的双向沟通至关重要，每个成员需同时扮演倾听者与表达者双重角色。

在多目标、重要性各异的复杂协作场景中，若机器人无法胜任这两种角色，可能导致人机价值观错位，进而影响整体协作效率。

具体而言，机器人需作为有效倾听者，从人类指令和反馈中推断意图；同时作为清晰表达者，向用户解释自身决策逻辑。

为此，研究团队探索了如何在价值对齐背景下实现高效的人机双向沟通——即机器人与用户就各项任务目标的重要性达成共识。

团队提出一种可解释人工智能（XAI）系统：机器人通过实时反馈预测用户价值观，并以解释方式向用户传达决策过程。

该XAI系统融合协作式通信模型，结合现场反馈学习人类对多个目标的价值偏好，利用图模型模拟人类心理动态，生成易于人类理解的最优解释。

研究团队还开展了心理学实验，验证该计算框架的核心组件。结果表明，基于双向通信的学习模型，能够在复杂协作任务中实现人机之间的实时相互理解。

END

Editor | SONG Ziyan

Supervisor| TIAN Xueke