【导读】一个名为 `Open-OSS/privacy-filter` 的 Hugging Face 仓库,假冒 OpenAI 官方隐私过滤模型,18 小时冲上平台热榜第一,累计下载量约 24.4 万次。安全公司 HiddenLayer 发现,该仓库会向 Windows 用户投放 Rust 编写的信息窃取器。目前 Hugging Face 已禁用该仓库。
一个「隐私保护模型」,偷走了你的全部凭证
2026 年 5 月 7 日,安全公司 HiddenLayer 发出预警:Hugging Face 热门仓库列表里有一个项目正在大规模投放恶意软件。
这个项目叫 `Open-OSS/privacy-filter`。
乍看之下,它像极了 OpenAI 在 4 月 22 日发布的官方开源项目 `openai/privacy-filter`——一个用于检测和遮蔽文本中个人敏感信息(PII)的开源权重模型。页面上的 model card、README、项目描述,几乎逐字复制了官方内容。
但它的发布者不是 OpenAI。
▲ The Hacker News 报道:假冒 OpenAI Privacy Filter 的恶意仓库登顶 Hugging Face 热榜
据 The Hacker News 5 月 11 日报道,这个假仓库在大约 18 小时内冲到了 Hugging Face trending 第一名,下载量达到约 244,000 次。而在这背后,用户一旦克隆仓库并执行其中的脚本,就会触发一条多阶段攻击链,最终在 Windows 主机上释放信息窃取类恶意软件。
你以为你在部署隐私保护工具,实际上你的浏览器密码、session cookies、SSH 密钥、云服务 token 和加密钱包数据,正在被打包外传。
精准踩中每一个信任锚点
这次攻击的技术含量谈不上多高。它真正危险的地方在于——攻击者对开源生态信任机制的理解,比大多数开发者还深。
先看命名空间。
`openai/privacy-filter` 和 `Open-OSS/privacy-filter`,你在 Hugging Face 的搜索结果或热榜列表里快速扫一眼,很容易把后者当成某种社区镜像或者官方关联项目。`Open-OSS` 这个名字本身就在暗示"开源组织",对习惯了各种 foundation、community fork 的开发者来说,几乎不会触发警觉。
再看文案。
恶意仓库把官方 Privacy Filter 的 model card几乎逐字搬了过来。同样的功能描述,同样的技术规格,同样的"本地运行、高吞吐、隐私保护"卖点。如果不点进发布者主页去看历史记录,单从项目页面根本分辨不出真假。
▲ HiddenLayer 原始研究:"Malware Found in Trending Hugging Face Repository 'Open-OSS/privacy-filter'"
最后看用户行为。
模型仓库和普通软件包不同。开发者面对模型项目时,心理预期是"下载权重、跑 demo、配环境",README 里要求执行本地脚本根本不突兀。尤其是 Privacy Filter 这种定位为"本地 PII 过滤"的项目,clone 下来在本地跑,完全符合使用场景。
攻击者就是利用了这一点:当"执行脚本"本身就是正常工作流的一部分,恶意指令藏在里面几乎无感。
为什么偏偏挑中「隐私保护」?
这个选择太精准了。
OpenAI Privacy Filter 的官方定位是帮助开发者在日志清洗、训练数据过滤、客服记录脱敏、企业知识库处理等场景中检测和遮蔽 PII。它强调本地运行、处理敏感数据、开源权重——每一个特征都在降低用户对本地执行的戒备心。
▲ OpenAI 官方 `openai/privacy-filter` 模型页面:合法项目强调本地运行和隐私保护
一个名字里带着"隐私""过滤""OpenAI"的项目,自带三层信任背书。开发者看到它的第一反应大概率是"这是安全基础设施",而非"这可能是攻击入口"。
反过来说,如果攻击者假冒的是某个图像风格迁移的玩具模型,效果会差很多。越是听起来能保护你的工具,越适合成为偷你数据的外壳。
如果你执行过,问题比想象的严重
HiddenLayer 的处置建议非常明确,也非常重:
"If you cloned Open-OSS/privacy-filter or any of the Hugging Face repos listed in the IOCs table below and ran start.bat, loader.py, or any files from these repositories, your system should be treated as fully compromised."
「如果你克隆了 Open-OSS/privacy-filter 并执行了 start.bat、loader.py 或仓库内的任何文件,你的系统应当被视为完全失陷。」
这意味着:不要只删掉仓库目录就当没事了。
该信息窃取器的目标范围包括:浏览器保存的密码和自动填充数据、session cookies、密码管理器存储、SSH 密钥、OAuth tokens、云服务凭证、Discord 会话 token、加密钱包数据、FileZilla FTP 配置。
正确的响应流程是:隔离受感染主机,在一台干净设备上轮换所有相关凭证,把浏览器会话也视为已泄露,优先考虑重装系统或重新镜像。
▲ 恶意仓库 `Open-OSS/privacy-filter` 已被 Hugging Face 禁用
Hugging Face 已经禁用了该恶意仓库的访问权限。但对于已经执行过脚本的用户来说,平台端的处置只是阻断了后续感染,本地已经发生的凭证窃取不会因此撤销。
模型仓库成了新的供应链入口
过去几年,供应链攻击的案例集中在 npm、PyPI、Docker Hub、GitHub Actions 这些环节。开发者对"安装软件包时要小心"已经有了一定意识。
但模型仓库这个入口,很多人还没有建立同等级别的警惕。
原因很简单:模型项目看起来更像"数据资产"——下载一组权重文件,加载到框架里跑推理。大部分人的直觉是"这是数据,不会有执行风险"。可实际上,现在的模型仓库里经常包含 loader 脚本、环境配置文件、demo notebook、依赖安装脚本。它早就从权重下载站变成了一个完整的代码执行环境。
▲ The Hacker News 推文:恶意仓库 18 小时内达到约 244,000 次下载
这次事件还暴露了另一个问题:trending 和 downloads 这些指标不能当作安全信号。一个仓库冲上热榜第一,下载量超过 20 万,但这些数字只代表热度,不代表可信。热门本身成了攻击的放大器——越多人下载,排名越高;排名越高,越多人下载。
几条实操建议
给还没中招的开发者几条提醒:
1. 先看发布者命名空间。`openai/privacy-filter` 和 `Open-OSS/privacy-filter` 是完全不同的发布者,差一个字母就是另一个世界。
2. 新模型别在主力机器上直接跑。先在隔离环境或临时容器里检查文件内容和脚本逻辑,尤其是 README 要求你执行本地命令的项目。
3. 对"安全类"项目更要多一层核验。越是名字里带"privacy""security""filter"的模型,越要去核对官方公告链接和发布者身份。
4. 警惕突然冲榜的新项目。model card 被复制、发布者没有历史记录、下载数短时间内暴涨——这些都是危险信号。
5. 如果已经执行过可疑仓库的文件,按凭证泄露事件处理。隔离主机、干净设备重置账号和 token,不要在可能已失陷的机器上继续登录任何账号。
这次事件的核心教训:AI 开源生态的信任界面——命名空间、热榜、下载数、model card——和包管理器一样,已经成为攻击者可以经营的入口。以前防供应链攻击盯的是 `pip install` 和 `npm install`,现在 `git clone` 一个模型仓库也要带着同样的警惕。
— END —

