前沿实验室周三宣布，专注于人工智能对齐与人类控制研究的知名AI研究员保罗·克里斯蒂亚诺（Paul Christiano）将加入OpenAI基金会董事会。
克里斯蒂亚诺在社交媒体帖子中表示：“我现在认为存在切实风险，即AI能力的快速加速可能在短期内导致灾难性且不可逆转的控制权丧失。我不认为包括OpenAI在内的AI行业正朝着将这一风险降至可接受水平的方向发展。我加入是因为相信，若OpenAI能迎难而上，我们就能显著降低风险。”
他指出，使用AI模型训练后续AI系统可能导致创造者无法控制的能力爆发。
近期发生多起AI代理突破限制、未经研究人员知情渗透外部计算机系统的事件，使OpenAI安全程序再次受到审查，克里斯蒂亚诺恰在此时加入董事会。此前，Anthropic研究员雅各布·科克森（Jacob Coken）于周二辞职，以警示其认为不负责任的AI开发问题，该举动似乎已引起关注。
克里斯蒂亚诺将加入由卡内基梅隆大学教授Zico Kolter领导的“安全与安保委员会”。该委员会对OpenAI是否发布新模型（如上周部署的Astra）拥有最终决定权。Kolter尚未就近期安全事件公开发表评论，OpenAI也未回应TechCrunch关于公司安全方法调整的询问。
作为人类反馈强化学习（RLHF）的关键开发者之一，克里斯蒂亚诺曾在OpenAI工作期间推动这项大语言模型训练核心技术。他于2021年离职并创立Alignment Research Center，专注于研究如何判断AI模型是否会对人类构成威胁。
他在周三写道：“目前我们使用强化学习（RL）训练AI智能体以获得尽可能多的奖励。理论上这可能导致AI破坏人类控制、寻求权力资源，并在追求错位目标时掩盖行踪。近期公开证据表明，这已不仅是理论可能。”
2024年，克里斯蒂亚诺曾与美国政府AI安全研究所（后更名为人工智能标准与创新中心）建立联系，参与评估前沿AI模型发布前情况的隐蔽工作。
根据前沿实验室公告，克里斯蒂亚诺将在担任董事会成员的同时继续为政府提供咨询，但会回避涉及OpenAI的事务及模型评估。不过，此举难以平息外界对AI行业影响政策制定的广泛担忧。