人工智能系统必须安全、可控，并符合人类的意图与价值观，已成为全球普遍共识。随着技术不断进步，如何应对AI带来的风险，正成为21世纪最紧迫的全球性科学挑战之一。

▲ 人类正面临日益强大AI系统带来的挑战。（PHOTO: VCG）

在由北京智源人工智能研究院主办的会议上，OpenAI首席执行官萨姆·奥特曼（Sam Altman）发表主旨演讲指出，未来十年内，通用人工智能（AGI）将在几乎所有领域超越人类专业能力。他表示：“AI革命将创造共享财富，显著提升全人类生活水平，但前提是必须共同管理好相关风险。”

北京智源人工智能研究院院长、北京大学计算机学院教授黄铁军认为，尽管AI存在不确定性，但人类本身也是“不可预测的智能系统”，而伦理、法律和规范已有效约束人类行为。因此，AI同样可以被管理。

奥特曼强调，应通过包容性进程建立国际规范与标准，在全球范围内对AGI应用设置统一的安全边界。麻省理工学院教授马克斯·泰格马克（Max Tegmark）也表示，东西方首次在发展AI方面拥有共同利益——既要充分获取技术红利，又不能因发展过快而失控，这为国际合作提供了可能。

奥特曼特别提到，中美及全球研究人员有望携手实现这一目标。“中国拥有世界顶尖的AI人才，我真诚希望中国研究者在此进程中发挥重要作用。”

不过，北京市社会科学院研究员王鹏指出，当前地缘政治紧张局势对全球AI合作构成阻碍。部分美国势力借AI炒作“中国威胁论”，使得全面达成国际监管协议难度加大，尽管特定领域的合作仍具可行性。