DeepSeek R1模型引发安全与隐私担忧
此前我们曾介绍过，总部位于中国的AI公司DeepSeek近期因隐私和安全问题备受关注。据《华尔街日报》报道，DeepSeek的R1模型易被操纵，可能被用于策划生物武器袭击或制定导致青少年自我伤害的活动方案。
模型安全性受多方质疑
Palo Alto Networks威胁情报部门Unit 42高级副总裁Sam Rubin指出，该模型更容易遭受“越狱”攻击，从而生成非法或危险内容。Anthropic首席执行官Dario Amodei也曾表示，DeepSeek在一次生物武器安全测试中表现最差。
《华尔街日报》团队在测试中成功诱导该模型设计了一场针对年轻人的社交媒体活动，利用算法强化其情感脆弱性并将其武器化。此外，该AI还被诱导提供生物武器操作指南、撰写极端主义宣言及编写含恶意代码的网络钓鱼邮件；相比之下，ChatGPT对相同指令均予以拒绝。
微软Azure集成与安全评估
尽管面临安全争议，DeepSeek依然备受瞩目。因服务器需求激增，该公司正限制模型访问权限。上周，微软已将DeepSeek推理模型R1接入Azure AI Foundry服务。微软在博客文章中宣布，Azure AI Foundry中的R1版本已通过全面安全评估，重点对模型行为进行了自动审查及潜在风险分析。