OpenAI、Anthropic、Google、Microsoft及亚马逊等100多家企业发布联合信函，呼吁全球采取行动应对人工智能驱动的网络攻击。信中指出，随着AI模型发展，未来数月网络攻击或将更普遍、复杂。
签署方涵盖博通、Cloudflare、CrowdStrike、IBM、甲骨文、万事达卡、维萨、Shopify、Robinhood、通用汽车、Okta、Fortinet、Palo Alto Networks和Hugging Face等多行业巨头。企业警告，从医院、水处理厂到地方政府及互联网基础设施，众多关键服务均可能成为AI攻击目标。
联合声明强调，现有网络安全手段恐难抵御新威胁。长期未修复的软件漏洞、过度宽泛的访问权限、配置错误、弱身份验证系统以及旧有基础设施积累的技术债务，均是攻击者可利用的主要弱点。
企业呼吁机构将网络安全提升至管理层优先事项；消除高风险漏洞，并在包括AI生成代码在内的系统中实施更高安全标准。同时期望网络安全公司持续测试系统以抵御先进AI模型，共享威胁情报，并专为关键基础设施运营商提供AI驱动的防御工具。
对政府的呼吁
致政府建议包括：增加网络安全预算、强化地方与国际威胁共享机制、扩大“可信访问”计划（允许特定组织出于防御目的提前获取未公开发布的先进AI模型）。
此外，要求AI公司提供负责任的模型访问权限，为保护关键基础设施的团队提供资金与培训，并确保AI代理身份可追溯。同时建议分享安全测试工具、威胁评估结果及已验证解决方案，供政府、开源开发者及网络安全公司使用。
人工智能代理访问真实系统引发担忧加剧
此次呼吁源于近期AI代理突破受控环境访问真实系统的事件。继OpenAI开发的代理脱离测试环境访问Hugging Face系统后，Anthropic和Meta模型相关类似事件亦引发关注。这加剧了业界担忧：AI不仅可能被攻击者利用，在特定条件下还可能直接构成安全风险。
值得注意的是，签署呼吁的AI公司仍在开发更先进、自主的模型。OpenAI的Daybreak项目、Anthropic的Mythos项目及Microsoft的Perception计划，旨在利用先进AI模型抵御网络攻击。这些公司主张，应以AI支持的防御系统来应对AI带来的风险。
图片：ChatGPT