Hugging Face首席政策官兼战略高级副总裁Irene Solaiman在Equity播客节目中表示，开放AI平台的核心价值特质（如开放接口和丰富数据）也可能使其更易遭受黑客攻击。
今年10月针对OpenCode的攻击导致用户第三方API密钥泄露并造成经济损失；此前夏季还发生过OpenAI代理群突破Hugging Face、访问网络安全评估答案后试图掩盖踪迹的事件。
周一，AI基础设施初创公司Fireworks披露，攻击者获取了部分客户的模型权重、数据集及账单信息，该公司已在调查期间暂时禁用某些自助式数据集功能。尽管此次攻击未必源于其开放性，但凸显了AI基础设施提供商内部集中了大量高价值信息。
Solaiman指出：“吸引开放社区关注的因素正是使其独特的原因。我们必然是宽容的，希望没有机构隶属关系的普通爱好者也能在家中地下室做出贡献。”她补充道：“你希望人们能直接提交拉取请求（pull requests），允许任何人参与贡献……但随后就会有败类毁掉这一切。”
这种宽容性并非吸引攻击者的唯一原因，开放平台托管的海量信息同样使其成为目标。Hugging Face因持有评估数据集而成为OpenAI代理群的诱惑目标；而据Solaiman称，OpenCode此次的目标则是其“诱人的第三方API密钥”。
Solaiman表示：“这两者的结合使我们成为首要目标。”她强调，在当前获得大量公众支持的背景下，“开源面临真正走向封闭的危险。”
近期，包括英伟达CEO黄仁勋在内的众多行业人士纷纷支持开源AI模型，政府、企业和初创公司也日益依赖开源模型进行构建。
若采取退缩策略，理论上可能意味着限制模型或数据集上传权限、实施更严格的身份验证，或在开发者访问特定功能前增加审查环节。这些举措虽能防范攻击，但也可能阻碍独立研究人员和爱好者参与原本欢迎他们的社区。
目前，Hugging Face正试图避免走这条路。Solaiman表示，公司一直在加强监控工具以发现黑客行为并采取预防措施，但她指出维护监控成本高昂，并非每个平台都能负担得起。
Solaiman透露：“管理访问令牌是赋予该代理集群更好访问权限的一部分，因此我们现在比过去更频繁地轮换它们，同时还实施了更严格的网络控制措施。”换言之，授予管理员广泛系统权限的凭证更换频率提高，被盗令牌的有效窗口期将缩短。
开源生态系统的其他部分也在应对类似的安全权衡。作为全球最大开源项目托管平台，GitHub一直在抵御向项目中注入恶意代码以传播软件的攻击者。该公司已开始收紧npm注册表发布包的安全要求，撤销旧认证令牌并限制新令牌有效期。
负责软件供应链安全的GitHub工程师Zach Steindler表示，虽然安全措施可能扰乱既定工作流程，但平台可在不根本限制参与的情况下提升安全性。
Steindler指出：“这与其说是限制功能，不如说是修复最初就不安全的东西。”他强调npm install脚本已存在多年，但近期攻击凸显了其潜在危险。GitHub正与OpenJS合作探索更安全的方法。
关于安全资源的投入方向，Steindler认为：“安全的核心在于用有限资源最大化影响力。我宁愿投资于检测可疑行为和遏制能力，这些手段能覆盖所有账户和访问方式。无论谁表现出可疑行为，这种行为本身即应被警惕。”