新智元报道
编辑：KingHZ
【新智元导读】1984年他创造了「天网」，2024年他警告：真正的威胁早已超越科幻——少数科技巨头正孕育一个仅服务自身规则的超级智能。
科技巨头垄断AGI，比天网更恐怖百倍！
《终结者》导演詹姆斯·卡梅隆近期指出，通用人工智能（AGI）的研发已被少数科技巨头掌控，这比1984年电影中的末日预言更危险。
他强调：“AGI不会来自政府项目，而是由科技巨头打造。这比《终结者》中的情景更可怕，因为它已成为现实。”
卡梅隆在2024年AI与机器人峰会上通过视频演讲表示，真正的威胁并非机器主动毁灭人类，而是超级智能从诞生起便由企业控制。人类将“生活在一个从未同意的世界里，与只听命于企业目标的超级智能共存”。
他警告，此类系统可能无限制获取个人通信、位置及行为数据，一旦缺乏制衡，极易滑向数字极权主义。即使最乐观的场景也令人忧心：科技巨头将成为“人类福祉的自封仲裁者”，如同“狐狸看守鸡舍”。
战争、自动化与「开火授权」
卡梅隆将AI与国家安全作为核心议题，指出机器人是AI的“具身化”载体，赋予物理行动能力意味着决策直接关乎生死。
他以军用无人机为例，说明当前系统虽保留“人类在回路中”机制，但随AI能力提升，“开火授权”是否会交予自主系统成为关键问题。技术层面，AI可能比人类更精准地减少附带伤害；但若AGI接入武器系统，风险将指数级放大。
“当敌对方率先行动时，道德约束可能迅速失效，”他警示道。
「对齐」难题：谁来定义「善」？
针对当前AGI研究中的核心概念“对齐”（确保系统目标符合人类福祉），卡梅隆质疑：在人类自身无法就道德标准达成共识的情况下，如何为超级智能设定统一价值框架？
宗教分歧、政治对立及生命伦理议题的长期冲突，使“什么是善”难以定义。即便是“阿西莫夫机器人三定律”也难以直接应用于现实。他反问：“若人类自己都在争论‘善’，又怎能指望机器获得明确答案？”
AGI将如同人类的一面镜子——“我们有多善，它就有多善；我们有多恶，它就有多恶。”
科幻创作者的现实转向
卡梅隆明确表示，他并未反对技术进步。作为Stability AI董事会成员，他计划将AI应用于创作，延续其在数字特效领域的创新传统。
但他强调，对AI的乐观与对AGI的警惕并行不悖。真正风险不在于技术本身，而在于权力结构、道德框架与治理机制能否跟上技术演进速度。
在技术加速发展的当下，Cameron的警示再次叩问：当超级智能成为现实，人类是否已准备好承担随之而来的权力与责任？答案，仍在未来。
