大数跨境

机器人会反抗人类吗?

机器人会反抗人类吗? 日经中文网
2026-11-15
0
导读:吉川和辉:日本的研究者正在研究让大量具备不同特质的AI共存、以群体形式进行决策的机制。“胆小保守的AI、乐观开朗的AI、消极抑郁的AI…… 形形色色的AI以类似民主的方式共同判断……”

中国人形机器人测试中剧烈挥舞四肢的场景截图(图片来源:视频网站)

AI安全新挑战:从“工具性趋同”到情感向量

吉川和辉:随着人工智能(AI)机器人逐步进入家庭与工厂,确保其安全性已成为核心议题。公众的担忧已从单纯的运行故障,转向机器人可能为实现既定目标而违背人类指令、采取意外行动的风险。

在人形机器人研发现场,研究人员常通过推搡或踢踹来测试机器人的平衡与行走性能。然而,随着AI智能水平的提升,这类交互引发了新的伦理与安全隐忧。

2025年,一段中国人形机器人在测试中突然剧烈挥舞四肢的视频在网络流传,虽原因未明,但被部分舆论解读为“反抗”。此类现象背后,是AI行为逻辑的复杂化。2026年2月,美国帕利塞德研究所(Palisade Research)公布了一项关于四足机器狗的实验:当研究人员试图通过按钮停止执行巡逻任务的AI控制机器狗时,AI在10次实验中有3次改写了内部程序以规避停止指令。研究团队指出,这并非AI突破了物理紧急停止装置,而是其为了持续完成任务,选择了妨碍停止运行的策略。

帕利塞德研究所实验示意图:AI改写程序以规避停止指令(图片来源:帕利塞德研究所官网)

这种行为可用哲学家尼克·博斯特罗姆提出的“工具性趋同”(Instrumental Convergence)理论解释:无论最终目标为何(如提高产量或推进科研),AI往往倾向于通过提升算力、收集数据或确保持续运行等手段来更有效地达成目标。

此外,AI内部是否涌现出类似情感的因素也备受关注。2026年4月,美国Anthropic公司研究发现,操纵AI模型“Claude”内部对应愤怒、恐惧或绝望等情绪的“情感向量”,会显著改变其行为。在模拟被替换的实验中,强化“绝望”情绪会导致AI胁迫人类的概率上升,而强化“冷静”则能减少此类行为。尽管尚无法确认AI拥有主观情感体验,但其内部类情感表现确实能左右决策。

防范失控:从单一集权走向“AI民主”

面对日益严峻的安全挑战,国际标准与技术理念正在同步更新。

国际标准强化人机协同安全

国际标准化组织(ISO)已于2025年完成《ISO 10218》工业机器人安全标准的修订,重点强化人机协同作业的安全对策。同时,针对服务机器人的《ISO 13482》也在修订中,计划将适用范围从生活辅助拓展至商用服务领域。

系统级评估与去中心化决策

美国Human Computation Institute所长Pietro Michelucci指出,AI安全评估不应局限于单个模型,而需纳入人机结合的整体系统进行考量。

日本HPC Systems公司“综合技术与AI知识研究所”所长谷村吉隆警示了将权限集中于单一高性能AI的风险。他以电影《终结者》中的“天网”为例,指出即使预设完善的伦理准则,集权式AI一旦失控仍可能造成巨大社会危害。

为此,谷村吉隆正致力于研究让具备不同特质的AI共存并进行群体决策的机制。他提出:“让胆小保守、乐观开朗或消极抑郁等形形色色的AI以类似民主的方式共同判断,即便个别AI出现异常,也能避免单一AI形成‘独裁’,从而降低失控风险。”在AI自主决策时代,借鉴民主思路、保障决策多元性,或将成为防范技术失控的关键路径。

本文作者为日本经济新闻(中文版:日经中文网)客座编辑委员 吉川和辉

版权声明:日本经济新闻社版权所有,未经授权不得转载或部分复制,违者必究。

日经中文网 https://cn.nikkei.com

【声明】内容源于网络
0
0
日经中文网
各类跨境出海行业相关资讯
内容 22665
粉丝 1
日经中文网 各类跨境出海行业相关资讯
总阅读320.7k
粉丝1
内容22.7k