OpenAI组建新团队，专攻“超级智能”管控难题
在联合创始人Ilya Sutskever与研究员Jan Leike的领导下，OpenAI正组建新团队以引导和控制“超级智能”AI系统。该团队计划用四年时间攻克实现超智控制的核心技术挑战。
此举被视为确保AI造福人类社会的关键一步。科学家预测，十年内可能出现超越人类智能的AI，若缺乏严格管控，其不可控行为或引发严重后果。
两位核心人物坦言：“目前尚无解决引导或控制潜在超智AI的方法，也无法阻止其失控。”这凸显了问题的严峻性。
一方面，“对齐”（Alignment）——即确保AI遵循人类价值观与目标运行——极为复杂。尽管AI被设计用于实现预期结果，但对其实施可靠控制仍面临巨大挑战，甚至可能并不可行。