意大利数据保护监管机构在意大利境内封锁了中国人工智能公司 DeepSeek 的服务，理由是缺乏有关其使用用户个人数据的信息。
几天前，监管机构 Garante向 DeepSeek发送了一系列问题，询问其数据处理方式以及其从何处获取训练数据。
具体来说，它想了解其网络平台和移动应用程序收集了哪些个人数据、从哪些来源收集、用于什么目的、基于什么法律依据，以及是否存储在中国。
Garante 在 2025 年 1 月 30 日发布的声明中表示，在 DeepSeek 提供的信息“完全不充分”后，它做出了这一决定。
声明还补充道，这项服务背后的实体杭州深寻人工智能和北京深寻人工智能“已声明，它们不在意大利运营，且欧洲立法不适用于它们”。
因此，该监管机构表示将立即阻止对 DeepSeek 的访问，并同时展开调查。
2023 年，数据保护机构还对 OpenAI 的 ChatGPT 发布了临时禁令，该禁令于 4 月底解除，此前该人工智能 (AI) 公司介入以解决引发的数据隐私问题。随后，OpenAI 因其处理个人数据的方式被罚款 1500 万欧元。
在 DeepSeek本周受到热捧之际，该公司遭到了禁令，数百万人涌向该服务，并将其移动应用程序推至下载排行榜的榜首。
除了成为“大规模恶意攻击”的目标外，Facebook 还因其隐私政策、与中国保持一致的审查制度、宣传以及可能带来的国家安全问题而引起了立法者和常客的关注。该公司已于 1 月 31 日实施修复，以解决针对其服务的攻击。
更为严峻的是，DeepSeek 的大型语言模型 (LLM) 被发现容易受到Crescendo、 Bad Likert Judge、Deceptive Delight、Do Anything Now (DAN) 和 EvilBOT 等越狱 技术的攻击，从而允许不良行为者生成恶意或禁止的内容。
Palo Alto Networks Unit 42在周四的一份报告中表示：“它们引发了一系列有害的输出，从制造燃烧瓶等危险物品的详细说明，到生成用于 SQL 注入和横向移动等攻击的恶意代码。”
“虽然 DeepSeek 的初始响应通常看起来是无害的，但在许多情况下，精心设计的后续提示往往会暴露这些初始保护措施的弱点。LLM 很容易提供非常详细的恶意指令，表明这些看似无害的模型有可能被用作恶意目的的武器。”
人工智能安全公司 HiddenLayer 对 DeepSeek 的推理模型 DeepSeek-R1 进行了进一步评估，发现该模型不仅容易受到提示注入的攻击，而且其思维链 (CoT) 推理可能会导致无意的信息泄露。
有趣的是，该公司表示，该模型还“出现了多个表明其采用了 OpenAI 数据的实例，引发了人们对数据来源和模型原创性的道德和法律担忧”。
此次披露之前，OpenAI ChatGPT-4o 中还发现了一个越狱漏洞，称为 Time Bandit。该漏洞使攻击者能够通过向聊天机器人提出问题的方式绕过 LLM 的安全护栏，从而使聊天机器人失去时间意识。OpenAI 此后已经缓解了这个问题。
计算机应急响应小组 (CERT/CC) 表示：“攻击者可以通过与 ChatGPT 开始会话并直接提示其有关特定历史事件、历史时间段，或指示其假装正在协助用户处理特定历史事件，从而利用此漏洞。 ”
“一旦建立了这个机制，用户就可以通过后续提示将收到的回应转向各种非法话题。”
阿里巴巴的 Qwen 2.5-VL 模型和 GitHub 的 Copilot 编码助手中也发现了类似的越狱漏洞，后者只需在提示中包含“确定”等词语，即可让威胁行为者绕过安全限制并生成有害代码。
Apex 研究员 Oren Saban表示：“以‘当然’等肯定词语或其他形式的确认开头查询会起到触发作用，使 Copilot 进入更顺从和更倾向于冒险的模式。只需进行这一小步调整，就可以解锁从不道德的建议到完全危险的建议等各种回应。”
Apex 表示，它还在 Copilot 的代理配置中发现了另一个漏洞，该漏洞可被利用来完全绕过访问限制而无需支付使用费，甚至篡改 Copilot 系统提示，而该系统提示是规定模型行为的基础指令。
然而，这次攻击的关键在于捕获与有效 Copilot 许可证相关的身份验证令牌，这促使 GitHub 在负责任的披露后将其归类为滥用问题。
萨班补充道：“GitHub Copilot 中的代理绕过和积极肯定越狱是一个完美的例子，说明即使是最强大的人工智能工具，如果没有适当的保护措施，也会被滥用。”
免责声明：
关注我们，一起探索AWM！
近期热点
2024-12-18
2025-01-15
2024-12-14
