本期要点:AI网络安全风险迫在眉睫,企业需警惕新型攻击手段。
你好,我是王煜全,这里是王煜全要闻评论。
未来一年,AI 风险最显著的表现将是网络攻击。这一观点与比尔·盖茨在 10 月 11 日接受 CNN 采访时的警告不谋而合。
以往提及 AI 风险,公众多关注就业影响或远期失控问题。然而现实中,利用 AI 攻击企业的能力正在迅速提升。
10 月 7 日,网络安全公司 CrowdStrike 披露,韩国至少 9 家银行遭遇攻击,新韩银行约 2.5 万名客户、KB 国民银行 119 名客户信息泄露,警方已介入调查。
调查显示,攻击者利用了名为 ARTEX 的开源 AI 安全测试框架配合多个大模型实施攻击。由于该工具由中国开发者上传,初期曾引发对攻击来源的误判,目前 ARTEX 已转为闭源。
虽然并非 AI 独立攻破银行系统,但这标志着 AI 已实质性参与网络犯罪。
危险拐点已现:攻击者正使用新一代 AI 武器,而多数企业尚未做好应对准备,“安全”成为不可忽视的核心要素。
PART 01 核武器
为何 AI 带来的安全问题迅速升级?从大模型行业的发展可见一斑。
10 月 12 日,Meta 推出 Muse Wonder 系列新模型,主打 Agent 处理复杂任务、代码编写及长上下文记忆能力。继 OpenAI、Anthropic、谷歌之后,Meta 凭借高达 1300 亿至 1450 亿美元的年度资本开支指引,强势加入前沿模型竞争。
需注意:AI 既能协助编程和完成任务,也能寻找程序缺陷并利用漏洞入侵系统。
今年 4 月,Anthropic 发布 Claude Mythos Preview,该模型能自主发现并利用复杂漏洞,例如在被认为安全的 OpenBSD 系统中发现了存在 27 年的漏洞。
随后,OpenAI 发布 GPT-6 Astra,具备自主发现未知漏洞的能力;10 月 13 日,谷歌推出 Gemini 4 Argon,宣称在漏洞发现和修复代码生成方面达到前沿水平。
这些进展意味着什么?
网络安全领域已出现“核武器”。过去仅少数顶尖专家具备的危险能力,如今前沿 AI 已完全掌握。
更值得警惕的是,这种能力不会长期垄断。多家企业相继取得突破,表明技术障碍并非不可逾越。
若保守估计明年第四季度开源模型具备类似能力,一旦强大模型可被随意下载、修改和部署,相当于“核武器”人人可得。
因此,控制危险能力的扩散已成为未来网络安全管控的首要关键。
网络犯罪如窃取信息、勒索等长期存在,但过去需要高专业能力和大量时间投入。如今 AI 自动化降低了攻击成本,扩大了攻击范围。
PART 02 新战场
若“核武器”级 AI 能力扩散,谁将成为主要目标?
很可能是那些拥有大量资产和重要业务,却未及时升级防御的企业。
黑客倾向于选择资金充足、数据价值高、系统易攻破且追责难度大的目标。银行、电力、航空、保险、物流、零售等传统行业,往往使用运行多年的老旧系统,若管理层未意识到 AI 能力跃迁,极易因防御不足成为“肥羊”。
此外,攻防双方存在“技术进化代差”:
- 攻击者仅面临技术障碍,可快速利用新工具找漏洞;
- 企业防守受预算、审批、业务连续性制约,无法随意让 AI 修改核心交易系统,且老系统中隐藏漏洞往往在被利用后才被发现。
危机背后蕴含巨大产业机会。网络安全将成为企业必须持续投入的核心能力,也是重要的新兴产业。
企业必须用更先进的 AI 主动检查系统,避免在遭受新一代技术攻击时付出沉重代价。安全防护不仅是购买软件,更涉及持续检测、修复、恢复以及对核心系统中 Agent 运行的实时监控和权限管理。
这种变化将形成新的市场需求,为创业者提供重要机会。
例如,谷歌去年宣布以 320 亿美元收购云安全公司 Wiz,旨在强化云计算和 AI 时代的安全能力。随着 AI 产业繁荣,企业创造的价值越多,对安全能力的投入必将越大。
在 AI 安全领域,你是否看到了新的风险和机会?欢迎在评论区交流。
王煜全要闻评论,我们下周见。


