By GONG Qian

一封由全球科技界重量级人物联署的公开信引发广泛关注，信中呼吁全球AI实验室暂停训练比GPT-4更强大的人工智能系统至少六个月，以应对潜在的社会与人类风险。

▲ PHOTO: VCG

该信由“未来生命研究所”（Future of Life Institute）发布，题为《暂停巨型AI实验：一封公开信》，指出当前AI实验室在开发和部署日益强大的数字智能系统方面已近乎失控，这些系统连其创造者都无法完全理解、预测或可靠控制。

信中强调，具备与人类相当智能水平的AI可能对社会和人类构成深远威胁。截至目前，已有超过15,500人签署，包括SpaceX与Twitter CEO埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克、知名AI学者斯图尔特·罗素等。

公开信发布后迅速引发争议。部分批评者认为其关注点过于集中在假设性与长期风险上，且难以影响当前AI研发的实际进程。但也有观点指出，AI技术已实际带来诸多伦理与社会问题，如输出偏见信息、传播虚假内容、侵犯用户隐私等。

随着ChatGPT等模型的升级，相关担忧持续升温。路透社报道称，欧盟执法机构Europol警告该技术可能被滥用于网络钓鱼、虚假信息传播及网络犯罪。就连ChatGPT开发者OpenAI也曾在声明中表示，在适当时候应引入独立审查机制，并限制最先进模型的算力增长速度。

“那个‘适当时候’就是现在。”多位签署者强调。

AI安全初创公司SaferAI首席执行官西米恩·坎波斯向《时代》杂志表示，当连发明者都不清楚AI系统的运行机制、能力边界和行为约束时，管理其风险几乎不可能。

尽管AI技术为人类带来巨大福祉，但若其发展威胁到人类生存，责任应由谁承担？这不仅是开发者的问题，更是全人类共同面临的挑战。

纽约大学教授加里·马库斯指出：“我们必须放慢脚步，直到更清楚地理解其后果。”

专家呼吁，在为时未晚之前，应加快建立针对AI的法律法规体系。人类的未来，应当掌握在人类自己手中，而非交由AI系统决定。

END

Editor | SONG Ziyan

Supervisor| TIAN Xueke