一项针对荷兰儿童的新研究揭示了其对人工智能（AI）的独特认知。研究表明，儿童具备感知价值观与划定道德界限的能力，能为构建以人为本的AI治理体系提供关键视角。尽管生成式AI发展迅速，但儿童在相关公共对话中的参与仍显滞后。DesignLab-KidsRights基金会的全国调查显示，大多数受访儿童认可机器人在销售等辅助领域的潜力，但坚决反对AI担任医生、警察或朋友等涉及情感与安全的核心角色。
儿童对AI社会角色的认知边界
该研究调查了374名4至16岁的荷兰儿童，其中6-13岁群体占比最高。通过思想实验，研究者探讨了儿童对社交机器人替代社会工作的接受度：
- 销售员角色：55.3%的儿童认为机器人可胜任销售员，理由是效率高且体验新奇；41%的儿童表示反对，担忧人类失业及缺乏真实互动。
- 执法与医疗角色：54.8%的儿童反对机器人当警察，认为其可能威胁安全；61.3%的儿童拒绝机器人医生，主要顾虑在于技术故障风险及缺乏人类关怀。仅有少数儿童愿意接受AI在这些高风险领域的应用。
受访者普遍强调，AI在执行任务时无法替代人类的同理心与应变能力，尤其是在处理紧急状况或复杂人际互动时。
友谊的情感壁垒与人机区分
在探讨“机器人能否成为朋友”时，儿童表现出清晰的界限感。他们认为，友谊超越功能性关系，必须包含人类特有的情感、技能与价值观。
虽然儿童认可AI在阅读障碍辅助、海洋清洁等功能性场景的价值，但一致否认其作为朋友的可行性。核心原因在于机器人缺乏自主意识与真实情感反馈，无法实现双向的情感学习与适应。儿童指出，若仅从模仿自身的机器人处学习社交，将阻碍其社会化进程；唯有具备幽默感与真实情感的实体，才具备建立友谊的基础。
以人为本AI的八大道德标准
基于调查结果，儿童对未来AI系统提出了八项核心要求，这些标准构成了他们对“以人为本”社会的期望：
- 人类素养：AI应具备类似人类的素质，而非纯粹的机械逻辑。
- 情商：AI需具备理解与表达情感的能力。
- 爱与善良：AI应能传递关爱，而非冷漠执行指令。
- 真实性：AI应拥有独立观点，而非单纯迎合用户。
- 关怀与保护：AI需提供心理慰藉与安全感。
- 自主性：AI应服务于人，严禁接管人类主导权。
- 服务属性：AI的定位必须是辅助者而非决策者。
- 活力：AI应具备互动性，能与人类共同娱乐。
将儿童视角纳入AI治理框架
研究强调，在科技加速转型的背景下，代际对话至关重要。儿童提供的道德与社会标准，是成年人往往忽视的宝贵资源。KidsRights报告建议，应将儿童的道德准则视为构建以人为本AI体系的基石，并将其融入现有规范框架中。
目前，欧盟可信人工智能自评估清单、联合国儿童基金会《人工智能为儿童：政策指南》、联合国教科文组织《人工智能伦理问题建议书》以及世界经济论坛相关工具包等文件，均已开始关注这一维度。通过让儿童实质性参与AI发展的公共讨论，有助于确保技术进步不丢失同理心、爱与趣味性等人类根本特质，从而推动真正符合人类福祉的科技转型。
来源：世界经济论坛
Karolina La Fors
世界经济论坛及特文特大学设计实验室 生成式人工智能研究员
Marc Dullaert
KidsRights协会主席