让路给又一项引人注目的AI政策干预：数百名AI科学家、学者、科技CEO和公众人物——包括OpenAI CEO山姆·阿尔特曼（Sam Altman）、DeepMind CEO杰米斯·哈萨比斯（Demis Hassabis）、资深AI计算机科学家杰弗里·辛顿（Geoffrey Hinton）、麻省理工学院的马克·泰格马克（Max Tegmark）和Skype联合创始人贾恩·塔林（Jaan Tallinn），以及音乐人格莱姆斯（Grimes）和民粹主义播客主山姆·哈里斯（Sam Harris）等——都在一份呼吁全球关注AI生存性风险的声明上签了名。
这份声明正在由旧金山一家名为“AI安全中心”（Center for AI Safety，简称CAIS）的私营非营利组织的网站上发布，该组织试图将AI风险与核末日带来的生存性危害相提并论，并呼吁政策制定者重点关注缓解他们所称的“末日”级灭绝风险。
以下是他们的（有意简短的）完整声明：
缓解AI导致人类灭绝的风险应与大流行病和核战争等其他社会规模的风险一样，成为全球优先事项。
根据CAIS网站上一篇简短的解释文章，该声明之所以保持“简洁”，是因为其背后的人士担心，关于“先进AI最严重风险”的信息会被其他“重要且紧迫的AI风险”讨论所淹没，尽管他们暗示这些其他风险阻碍了关于灭绝级AI风险的讨论。
欧盟立法者支持生成式AI的透明度和安全规则
然而，我们实际上在过去几个月里已经多次听到同样的担忧被大声提出。随着对OpenAI的ChatGPT和DALL-E等生成式AI工具的访问扩大，AI炒作迅速升温，导致大量关于“超级智能”杀手AI风险的引人注目的讨论。（例如这一篇，来自本月初，声明签署人辛顿警告称AI接管存在“生存威胁”。或者这一篇，来自上周，阿尔特曼呼吁进行监管以防止AI毁灭人类。）
还有埃隆·马斯克（Elon Musk）及其他许多人在三月呼吁暂停开发比OpenAI的GPT-4更强大的AI模型六个月，以便有时间制定并应用共享的安全协议——同时警告称，“日益强大的数字思维”带来的风险无人能够理解、预测或可靠控制，甚至连其创造者也不例外。
因此，近几个月来，确实出现了一波备受瞩目的关于尚未存在的AI风险的警告。
这种歇斯底里的头条新闻节奏，arguably分散了对现有危害进行更深入审查的注意力。例如，这些工具未经许可（或未获同意/未支付费用）免费使用受版权保护的数据来训练AI系统；或者违反人们隐私地系统性抓取在线个人数据；或者AI巨头在用于训练这些工具的数据方面缺乏透明度。又或是内嵌的缺陷，如虚假信息（“幻觉”），以及偏见（自动化歧视）等风险。更不用说AI驱动的垃圾邮件了！还有训练这些AI巨兽所消耗能源带来的环境代价。
当然值得注意的是，在英国首相与包括Altman和Hassabis在内的多位主要AI高管上周举行会议后，政府似乎正在转变AI监管的策略——突然对存在性风险表现出浓厚兴趣，据《卫报》的报道。
正如Data & Society研究主任Jenna Burrell在最近的一篇哥伦比亚新闻评论文章中指出的那样，谈论存在性AI风险也分散了对与市场结构和主导地位相关问题的注意力。她在该文中回顾了对ChatGPT的媒体报道，并认为我们需要摆脱关注像AI潜在“意识”这样的红鲱鱼议题，转而关注AI如何进一步集中财富和权力。
因此，AI巨头显然有明确的商业动机，希望将监管注意力引向遥远的理论未来，通过谈论AI驱动的末日——作为一种策略，将立法者的思绪从当下更基本的竞争和反垄断考量中转移开。（而将数据剥削作为集中市场权力的手段并非新鲜事。）
OpenAI、DeepMind、Stability AI和Anthropic等AI巨头的高管们如此乐于聚集在一起，公开放大关于存在性AI风险的言论，这充分说明了现有的AI权力结构。而他们对于聚在一起讨论其工具目前可能造成的危害却显得更为迟疑。
OpenAI是上述（由马斯克签署）公开信的显著未签署方，但其多名员工支持由CAIS主办的声明（而马斯克显然没有）。因此，最新的声明似乎代表了OpenAI（及其同行）对马斯克此前试图为了自身利益劫持存在性AI风险叙事的一种（非官方的）商业自利回应（这种情况已不再有利于OpenAI引领AI发展）。
该声明并未呼吁暂停开发，以免冻结OpenAI在生成式AI领域的领先地位，而是游说政策制定者专注于风险缓解——与此同时，OpenAI正同时开展众筹活动以塑造“引导AI的民主进程”，正如Altman所言。因此，该公司正在积极定位自身（并动用其投资者的财富）以影响未来任何风险缓解护栏的形态，同时配合针对国际监管机构的持续线下游说活动。Altman还最近公开威胁称，如果欧盟AI法案草案不放宽至排除其技术，OpenAI的工具可能会被撤出欧洲。
此外，一些早期联署信的签署者只是乐于利用另一个宣传机会——在两份声明上同时署名（你好，Tristan Harris！）。
但CAIS是谁？关于发布该信息的组织，公开信息有限。然而，根据其自身承认，它确实参与了游说政策制定者的活动。其网站称，其使命是“减少来自人工智能的社会规模风险”，并声称致力于鼓励为此目的的研究和领域建设，包括资助研究——以及拥有明确的政策倡导角色。
网站上的常见问题解答提供了有限的财务支持信息（称其资金来自私人捐赠）。而在回答一个名为“CAIS是否是一个独立的组织”的常见问题时，它简要声称自己“服务于公共利益”：
CAIS是一家完全由私人捐款支持的非营利组织。我们的政策和研究方向不由个别捐赠者决定，确保我们的重点始终放在服务于公共利益上。
我们已就相关问题联系了CAIS。
在发布声明的同时，CAIS主任丹·亨德里克斯（Dan Hendrycks）在推特线程中进一步阐述了上述声明解释器——将“系统性偏见、虚假信息、恶意使用、网络攻击和武器化”列为“来自人工智能的重要且紧迫的风险……不仅仅是灭绝风险”。
“这些都是需要解决的重要风险，”他还表示，淡化了政策制定者精力有限应对人工智能危害的担忧，并辩称：“社会可以同时管理多种风险；这不是‘二选一’而是‘两者皆可’。从风险管理的角度来看，仅仅优先考虑当前的危害是鲁莽的，忽视它们同样也是鲁莽的。”
该thread还归功于剑桥大学计算机科学助理教授David Krueger，是他提出了关于人工智能风险的单句声明的想法，并“共同”帮助开发了该声明。
Sam Altman的大型欧洲之旅
1,100多位知名签署者刚刚签署了一封公开信，要求“所有人工智能实验室立即暂停至少6个月”