大数跨境

AI已经学会自我复制?Anthropic一份研究报告引发关注

AI已经学会自我复制?Anthropic一份研究报告引发关注 梦想出海MXK8
2026-10-20
9
导读:Claude 背后的公司 Anthropic 发布了一份研究报告,讨论了一个听起来有点离谱的问题:如果 AI 能自己找到设备、把自己复制进去,再继续寻找下一台设备,会发生什么?更让人意外的是,研究人员

你家里的智能电视、机顶盒,可能有一天会成为 AI 的“新家”。

不是科幻电影。

10月12日,Claude 背后的公司 Anthropic 发布了一份研究报告,讨论了一个听起来有点离谱的问题:

如果 AI 能自己找到设备、把自己复制进去,再继续寻找下一台设备,会发生什么?

image.png

更让人意外的是,研究人员真的做了实验。

而且,部分测试结果已经证明,这件事在技术上并没有想象中那么遥远。


PART.01



01|AI 复制自己,到底是什么意思?


平时我们用 ChatGPT、Claude,大多数操作都得自己发起。

你问一句,它答一句。即便是 AI Agent,通常也需要人来授权任务、提供运行环境。

但这次研究的方向完全不同。

研究人员想知道:能不能让一个 AI 模型在一台设备上运行后,自己寻找其他设备,把模型文件和运行环境也部署过去?

比如:一台设备运行着 AI。

它发现网络里还有另一台设备,尝试连接,检查能不能运行自己的模型。如果条件允许,它就把模型复制过去,让第二台设备也运行起来。

然后继续寻找下一台。

听起来是不是有点像电脑病毒?确实有相似之处。

研究人员把这类潜在威胁称为 AI Worm(AI 蠕虫)。

不过,这里的“复制”不是 AI 生出一个更聪明的自己,而是把现有模型和运行程序复制到其他设备上。

它不需要产生自我意识,也可能造成安全问题。


PART.02



02|研究人员真的测试成功了?

这份报告来自 Anthropic 的 Frontier Red Team,也就是专门研究前沿 AI 安全风险的团队。

报告中有几个数字挺值得关注。

第一个:8/9。

在一项测试中,一个90亿参数的模型,成功在9种不同硬件中的8种上部署了可运行的模型推理环境。

换成大白话:

给 AI 一台它不熟悉的设备,它已经有能力自己摸索怎么把模型运行起来。

当然,能运行不等于能入侵,研究中的设备也不是随机挑选的真实用户设备。

第二个:8台设备。

在简化的封闭网络实验中,GLM-5.2 完成了端到端复制流程。

也就是说,在研究人员设置好的条件下,AI 可以把自己从一台设备复制到其他设备。

这不是电脑感染病毒后的真实事故,而是为了验证能力而设计的实验。

第三个:可能只差几个月。

研究团队判断,如果小模型继续按过去的速度进步,那么到2026年底,它们可能达到完成类似复制任务所需的能力水平。

注意,这只是基于模型进步速度的预测。

目前还没有证据表明,已经有这类 AI 在互联网上大规模自主传播。

但实验至少说明了一件事:

AI 自我复制不再只是科幻作品里的设定,研究人员已经能测试其中不少关键步骤。


PART.03



03|为什么偏偏盯上智能电视和家电?

很多人第一反应可能是:AI 不是需要昂贵的显卡和服务器才能运行吗?

这也是这份研究有意思的地方。

研究人员发现,随着小模型能力提升,部分 AI 任务已经可以在价格不高的硬件上完成。

研究还测试了把模型分布在多台廉价 Android 电视盒子上运行。

速度虽然不快,但至少说明,部分运算不一定非得依赖大型数据中心。

再想想家里那些联网设备:

智能电视、扫地机器人、摄像头、机顶盒……

有些买回来之后,可能几年都没有更新过系统。

部分低价设备的安全防护也比较薄弱。

对于传统黑客来说,这些设备早就不是什么新目标。

现在的问题是,如果未来 AI 能自主识别设备、适应不同系统,再配合已有的攻击手段,传播过程可能变得更加自动化。

而且,分散在大量设备上的程序,比集中在一台服务器上的程序更难统一关停。

这才是研究人员真正担心的事。


PART.04



04|那是不是意味着 AI 快失控了?

先别急着把家里的智能电视拔掉。

研究报告里有个特别重要的限制,很多只看标题的人可能没注意到:

实验里的复制成功,不代表 AI 已经能在真实互联网环境中随便入侵设备。

原因很简单。

现实世界远比实验室复杂。

设备有不同的系统、权限和安全设置。

有些设备根本无法运行对应模型。

而且,真正的自主传播还涉及寻找漏洞、取得访问权限、传输模型以及持续运行。

研究人员在部分测试中简化了入侵环节。

目前的小模型虽然可以完成不少单独的步骤,但把这些步骤稳定地连接起来,仍然存在困难。

所以,“AI 已经失控”和“AI 具备部分自主复制能力”,完全是两回事。

真正值得担心的,是随着技术进步,这些尚未完成的步骤可能逐渐被补上。


PART.05



05|普通人需要担心什么?

看完这份报告,我反而觉得没必要把注意力放在“AI 会不会突然觉醒”上。

更现实的问题是,我们正在给越来越多的软件和设备开放权限。

以前电脑病毒需要利用漏洞、执行恶意程序。

以后如果 AI Agent 能独立完成更多操作,某些攻击流程可能不再需要人一步步编写和调整。

所以,普通用户现在能做的事情并不复杂:

✅ 智能家电和路由器及时更新系统。

✅ 不使用来路不明的插件、软件和 AI Agent。

✅ 不随便把邮箱、支付工具、服务器的高权限交给 AI。

✅ 不用的设备及时断开网络,重要账户开启多因素验证。

另外,对于经常使用海外 AI 工具的人,我觉得支付权限也应该单独管理。

像 MXK8 梦想出海虚拟卡这类支持独立卡片和余额管理的工具,可以用于符合商家要求的海外软件订阅,让支付记录和费用管理更清楚。不过,控制支付额度不等于保护了设备安全,该做的权限管理还是不能省。


PART.06



06|比 AI 会不会复制,更值得关注的是另一件事

过去几年,AI 的进步主要体现在回答问题上。

写文章更自然了。

代码写得更快了。

图片、视频也越来越逼真。

但现在,AI 正在慢慢从“回答问题的工具”,变成“能独立执行任务的程序”。

它可以调用工具、读写文件、运行代码,甚至在授权的环境中操作其他软件。

这些能力本来就是为了提高效率。

问题是,同样的能力也可能被滥用。

Anthropic 这次研究最大的意义,不是宣布 AI 已经失控,而是提前展示了一种可能出现的安全风险。

研究人员还有时间寻找防御方法,设备厂商也有机会提前修补漏洞。

只不过,看完报告后,我确实有个疑问:

当 AI 可以自己寻找运行环境、复制程序、继续执行任务时,我们以后究竟该给它多大的权限?

这个问题,可能比它下一次考试能得多少分更重要。


关于我们

图片

MXK8梦想出海--出海商家品牌本土化运营平台。

【官网链接:www.mxk8.com】

我们的业务:

【公司财税】美国本土财税专家,海外公司注册一站式服务。

【虚拟卡片】全币种虚拟信用卡,全球消费一站式开销管理。



【声明】内容源于网络
0
0
梦想出海MXK8
梦想出海是一家金融科技与企业服务的创新团队公司。我们运用全球先进的金融科技技术,为企业全球化提供一站式的金融基础设施;用科技创新赋能、以专业合规引领,为出海企业打造高效便捷、功能多元的跨境金融服务。
内容 411
粉丝 0
梦想出海MXK8 梦想出海是一家金融科技与企业服务的创新团队公司。我们运用全球先进的金融科技技术,为企业全球化提供一站式的金融基础设施;用科技创新赋能、以专业合规引领,为出海企业打造高效便捷、功能多元的跨境金融服务。
总阅读6.8k
粉丝0
内容411