Anthropic前沿红队研究:小型AI模型或数月内实现自我复制
Anthropic前沿红队最近发表的研究指出,小型AI模型可能仅在数月之内就能实现自我复制,并在不安全的设备上扩散,从而形成缓慢但难以清除的自主僵尸网络。尽管AI公司常将产品的末日潜力作为营销手段加以夸大,但在本例中,Engadget采访的专家普遍同意,小型AI模型在不久的将来有可能具备自我复制能力。然而,它们实际构成的威胁可能并不像看起来那样新颖。
专家观点:预测准确但威胁形态存疑
EquiStamp首席执行官Chris Canal表示:“这比我预期的时间稍早一些,我原本会预测到明年夏天才会对此真正感到担忧。”该公司与AI实验室、安全组织和政府合作以验证和评估模型。“Anthropic很可能拥有我无法获取的前沿研究信息,因此他们的预测可能更为准确。”Canal将Anthropic及其他前沿实验室近期模型发展的快速步伐归因于员工使用自身AI工具进行机器学习研究的事实。
佐治亚理工学院网络安全与隐私学院教授迈克尔·贝利(Michael Bailey)表示:“我认为[自我复制模型]是未来的事,它们是真实存在的,我们会看到它们的。”但他同时指出,“至于它们是否会以[Anthropic]所宣传的确切形式和形态出现并产生相同后果,这完全是一个开放性问题。”
历史镜鉴:从Mirai僵尸网络看AI蠕虫演进
自200年代初以来,贝利一直在研究互联网蠕虫,最近则专注于僵尸网络。2017年,他合著了《理解Mirai僵尸网络》,该书被Anthropic在其研究中引用。Mirai允许一群网络罪犯创建一个庞大的物联网设备僵尸网络,他们后来利用该网络对索尼PlayStation Network发起DDoS攻击。在此过程中,他们最终影响了美国最大的DNS提供商之一Dyn。这次攻击导致2016年互联网大部分地区瘫痪,使亚马逊、GitHub、PayPal、Reddit和Twitter在美国多地及部分欧洲地区的许多用户无法使用。此次攻击造成的财务影响显著,索尼估计其净收入损失约为270万美元。
贝利表示:“Mirai表明,你可以用日常设备——如电缆路由器、IP摄像头等——来组建这些僵尸网络,并使它们具有实用性。”“我们曾认为这些设备对对手来说既不是有价值的目标,也不是用于发动攻击的计算资源来源。事实上,它们在做到这一点方面非常有效。”
技术辨析:AI自动化并非全新概念
十年后,Anthropic认为AI蠕虫可能代表了对Mirai和其他硬编码僵尸网络(如Kimwolf)的重大演进,因为它们能够自行识别陌生的设备。贝利表示,适应性本身并非新事物。Mirai已经能够在“异构”设备上运行,包括运行在不同芯片架构上的路由器和IP摄像头。但这种适应性是有限的:每种新的架构至少都需要人工工作,例如重新编译恶意软件。贝利表示,真正新颖之处在于AI自动化这一工作的可能性,尽管他认为Anthropic并未以“令人信服的方式”证明这一点。
因此,贝利认为更强大的AI模型将“重新分配”组建僵尸网络的工作。他说:“它不会做全新的事情,而是会改变攻击者与防御者之间的经济关系。”虽然Anthropic展示了一个模型如何在设备间跳跃并在每台设备上设置推理环境,但这是在模拟网络中完成的,其中涉及的“漏洞利用”非常简单。此外,贝利对Anthropic关于自我复制的说法提出了异议。
现实威胁:更像投放器而非传统蠕虫
贝利指出:“这种表述有些名不副实,因为他们正在做一些类似分片的事情。这本身并非坏事,但这并不像蠕虫或病毒那样进行完全传播。”相反,他认为现实世界中的AI僵尸网络可能更像是一种投放器(dropper),这是一种在设备上获得立足点并安装其他代码的恶意软件类型。该僵尸网络不会将整个副本复制到它所攻陷的每一台机器上,而是会安装一个小型协调工具,从网络的其他部分接收指令。
贝利说:“认为恶意软件本身是自我复制的,就像现有的互联网蠕虫一样,我会将我的代码的精确副本复制到新的架构上并开始运行一个新代理——这实际上并不是这里发生的情况。”他还指出,蠕虫可以是多态的,意味着它们可以改变其签名和行为。他表示,AI僵尸网络要做到这一点需要重新训练自己的模型,而Anthropic并未尝试这样做。最接近的是,他们展示了模型的副本可以向后继者传递信息,并随着时间推移在设置推理方面变得更好。
动机审视:IPO背景下的安全警告
正如来自任何AI实验室的警告一样,值得质疑Anthropic是否将此研究作为一种营销手段发布,尤其是在该公司官方不久后提交了IPO申请的情况下。Canal说:“我认为更可能的情况是,这些公司担心其他AI公司行事鲁莽。他们意识到自己有动力开发出最佳模型并更快地推向市场以占据市场份额,并且知道其他公司也有同样的动机。”
应对策略:回归基础安全防护
无论这种新型威胁向量是否真的是蠕虫,以及它距离实际出现还有多久,Anthropic提出的减轻其危害的建议都令人惊讶地老派。该公司建议互联网服务提供商通知客户感染情况,然后将其互联网访问限制在一个简短的安全网站列表中——这一策略在Mirai期间被部署并取得了显著成效。该公司还建议将监管作为潜在解决方案,并以英国为例,指出物联网设备上易于猜测的默认密码现在已根据PSTI法案被禁止。
就此而言,Bailey认为,对AI蠕虫的适当反应“看起来更像我们长期以来在系统安全领域所做的工作,而不是AI领域特有的某种独特事物”。事实上,据Canal称,很难为开源权重模型添加能够防止其像蠕虫一样行动的保障措施。“有很多想法,但到目前为止还没有什么稳健的方案,”他说。在与FAR.AI(一家AI安全研究非营利组织)的合作中,EquiStamp发现,“基本上你在Google上搜索到的任何从模型中移除保障的策略都能奏效。”
但正如贝利所指出的,“即使行为不当的代理,如果面对加固过的设备,也会面临很大困难。”他说,Anthropic研究中最值得吸取的教训是,我们总是未能记住过去学到的所有安全经验。在AI蠕虫时代,安全性很可能与现在非常相似。贝利说:“看起来就是要注意修补这些设备、注意隔离、注意使用良好的密码和良好的卫生习惯。”这些解决方案很容易描述,但实施起来却臭名昭著地困难。但如果AI确实使这类攻击变得更加普遍,我们可能别无选择。

